+--------------+
| 레지스터 | (가장 빠르고 가장 작은 메모리)
+--------------+
|
+--------------+
| L1 캐시 | (빠른 속도, 작은 용량)
+--------------+
|
+--------------+
| L2 캐시 | (중간 속도, 중간 용량)
+--------------+
|
+--------------+
| L3 캐시 | (중간 속도, 더 큰 용량)
+--------------+
|
+--------------+
| 메인 메모리 | (느린 속도, 큰 용량)
+--------------+
|
+--------------+
| 디스크 스토리지 | (매우 느린 속도, 매우 큰 용량)
+--------------+
|
+--------------+
| 원격 스토리지 | (가장 느린 속도, 거의 무제한 용량)
+--------------+
메모리 계층구조의 주요 아이디어는 한 레벨의 저장장치가 다음 하위 레벨의 저장장치의 캐시 역할을 한다는 것이다. L1과 L2는 L2, L3의 캐시이다. L3는 메인 메모리의 캐시이다.
일부 분산 파일 시스템을 가지는 네트워크 시스템에서 로컬 디스크는 다른 시스템의 디스크에 저장된 데이터의 캐시역할을 수행한다.