Centered Kernel Alignment (CKA) 계산, 시각화 및 배경지식

배경지식

Centering Matrix

Gram matrix

Gram matrix란?
gram matrix 은 입력 벡터(활성화)의 다양한 조합의 도트 곱을 표현하는 방법입니다.

gram matrix은 데이터의 기하학적 및 관계적 구조를 간결하게 표현하여 알고리즘이 고차원 공간에서 효율적으로 작동하고, 유사성을 분석하고, 기하학적 관계를 처리할 수 있게 해주며, 다양한 머신 러닝 상황에서 필수적인 역할을 하기 때문에 중요합니다.

CKA연산

유사성 행렬 연산

시각화

code 출처) DeepArc