CS지식 (캐시 메모리)

캐시 메모리

CPU가 메모리에 접근하는 시간은 
CPU 연산 속도보다 느리다

저장 장치 계층 구조

1. CPU와 가까운 저장 장치는 빠르고, 멀리 있는 저장 장치는 느리다. 

2. 속도가 빠른 저장 장치는 저장 용량이 적고, 가격이 비싸다. 

레지스터 VS 메모리 VS USB 메모리 

- 저장 징치들은 'CPU에 얼마나 가까운기'를 기준으로 계층적으로 나타낼 수 있음 

 

캐시 메모리 

- CPU와 메모리 사이에 위치한, 레지스터 보다 용량이 크고 메모리보다 빠른 SRAM 기반의 저장장치

- CPU의 연산속도와 메모리 접근 속도의 차이를 조금이나마 줄이기 위해 탄생

- "CPU가 메번 메모리에 왔다 갔다 하는거는 시간이 오래 걸리니, 메모리에서 CPU가 사용할 일부 데이터를 캐시 메모리로 가져와서 쓰자"

- 캐시 메모리는 CPU의 연산 속도와 메모리 접근 속도의 차이를 줄이기 위한 저장 장치이다.

계층적 캐시 메모리 

- L1, L2, L3

- L1, L2 캐시는 CPU 내부에, L3는 코어 외부에 있다

 

멀티코어 프로세서의 캐시 메모리는 코어마다 따로 캐시를 가지고 있고 L3 캐시를 공유하는 형태가 있다. 

L1 캐시는 CPU와 가장 가깝기 때문에 가장 속도가 빠르다.

기존 L1 캐시 메모리를 조금더 효율적으로 만들기 위해 L1을 L1D -> 데이터 관리 L1L -> 명령어 관리 이런식으로 불리 했다. 이를 분리형 캐시 라고 한다. 

 

참조 지역성의 원리

- 캐시 메모리는 메모리보다 용량이 적다

- 당연하게도 메모리의 모든 내용을 저장할 수 없다. 그렇다면 뭘 저장해야할까??  

-> CPU가 자주 사용할 법한 내용을 예측하여 저장

- 예측이 들어 맞을 경우 (CPU가 캐시 메모리에 저장된 값을 활용할 경우)

= 캐시 히트

- 예측이 틀렸을 경우 (CPU가 메모리에 접근해야 하는 경우)

= 캐시 미스 

캐시 적중률 : 캐시 히트 횟수 / (캐시 히트 횟수 + 캐시 미스 횟수)

CPU가 사용할 법한 데이터를  예측하는 방법, 참조 지역성의 원리 

참조 지역성의 원리 

- CPU가 메모리에 접근할 때의 주된 경향을 바탕으로 만들어진 원리 

   1. CPU는 최근 접근했던 메모리 공간에 다시 접근하려는 경향이 있다. 

   2. CPU는 접근한 메모리 공간 근처를 접근하려는 경향이 있다.