✅ Cache Memory
- 속도가 빠른 장치와 느린 장치의 속도 차이에 따른 병목 현상을 줄이기 위한 메모리
- CPU가 주기억장치에서 저장된 데이터를 읽어올 때 자주 사용하는 데이터를 캐시메모리에 저장한 뒤 이후 주기억장치가 아닌 캐시메모리에서 가져오면서 속도를 향상시킨다.
- 속도라는 장점은 있으나 용량이 적어 비용이 비싸다.
🎈 듀얼 코어 프로세서의 캐시 메모리
각 코어마다 독립된 L1캐시 메모리를 가지고, 두 코어가 공유하는 L2캐시 메모리가 내장됨
- L1 : CPU 내부에 존재
- L2 : CPU와 RAM 사이에 존재
- L3 : 보통 메인보드에 존재함
- 디스크 캐시 : RAM과 보조기억장치(HDD) 사이에 존재하는 캐시
🎈 캐시 메모리 작동 원리
- 시간 지역성 : for나 while 같은 반복문에 사용하는 조건 변수처럼 한번 참조된 데이터는 또 참조될 가능성 높음
- 공간 지역성 : 연속 접근 시 참조된 데이터 근처에 있는 데이터가 또 사용될 가능성이 높음
캐시에 데이터를 저장할 때는 공간을 최대한 활용하기 위해 해당 데이터뿐만 아니라 옆 주소의 데이터도 같이 가져와 미래에 쓰일 것을 대비한다.
cpu가 요청한 데이터가 있으면 Cache Hit, 없어서 DRAM에서 가져오면 Cache Miss
- 캐시 미스 경우
- Cold Miss : 해당 메모리 주소를 처음 불러서 나오는 미스
- Conflict Miss : 캐시 메모리에 데이터를 저장할 때 데이터들이 같은 캐시 메모리 주소에 할당되어 있어 발생하는 미스
- Capacity Miss : 캐시 메모리의 공간이 부족해서 나는 miss
캐시 크기를 키워 문제를 해결하려면 캐시 접근속도가 느려지고 파워를 많이 먹는 단점이 발생함.
✍️ 구조 및 작동 방식
- Direct Mapped Cache
- 가장 기본적인 구조로 DRAM의 여러 주소가 캐시 메모리의 한 주소에 대응되는 1:N 방식
- 캐시메모리 : 인덱스 필드 + 태그 필드 + 데이터 필드로 구성
- 간단하고 빠른 장점이 있지만, Conflict Miss가 발생할 수 있다.(같은 데이터 동시 사용시 문제)
- Fully Associative Cache
- 비어있는 캐시 메모리가 있으면 마음대로 주소를 저장하는 방식
- 저장은 간단하지만 찾기가 힘든 문제
- 조건, 규칙이 없어 특정 캐시 set안에 있는 모든 블럭을 한 번에 찾아 원하는 데이터 검색해야함.
- CAM이라는 특수 메모리 구조를 사용해야하며 매우 비용이 비쌈
- Set Associative Cache
- Direct + Fully 방식
- 특정 행을 지정, 그 행 안의 어떤 열이든 비어있을 때 저장하는 방식.
- Direct에 비해 검색 속도가 느리지만 저장이 빠르고, Fully에 비해 저장이 느린 대신 검색이 빠른 중간형
참고 사항
링크텍스트
To be a DataScientist