캐시란?

🎁캐시의 의미

👉 자주 쓰는 데이터를 원래 저장된 곳보다 속도가 더 빠른 임시 저장소(캐시)에 저장해서, 데이터를 빠르게 읽어올 수 있게끔 하는 것이 캐시

 

크게 두가지 경우

ex1) CPU 코어와 메모리 사이의 병목 현상 완화(프로세서에서의 캐시)
ex2) 웹 브라우저 캐시 파일은, 하드디스크와 웹페이지 사이의 병목 현상을 완화(메모리, 디스크, 웹서버에서의 캐시)

📌병목현상(bottleneck) 

👉 즉 담을 수 있는 데이터의 양은 적으나 한꺼번에 많은 양의 데이터가 유입 됨으로써 컴퓨터가 느려지는 현상

 

프로세서에서의 캐시란 CPU와 메인메모리의 처리속도에서 크게 효과가 나는데 매번 일반적으로 처리하면 속도가 현저히 느리기 때문에 오버헤드가 커지게 되고 자주 쓰는 데이터를 메인메모리보다 더 빠른 캐시 메모리에 두어서 더 빨리 읽어올수 있게 한다.

 

브라우저에서의 캐시란 웹페이지가 가지고 있는 이미지나 용량이 큰 어떤 데이터의 사본을 가지고 있을때 사용자가 페이지를 재방문할때 데이터를 완전히 다시 다운로드 하는것보다는 로컬 사본을 사용하는 것이 훨씬 빠르다.

📌캐싱의 과정  

정보를 블록 단위로 동시에 불러오게되는데 예를들어서 단일 바이트에 대한 요청이 온다면 그 주변에 연속된 메모리 위치를 포함한 블록 또한 불러온다 왜냐하면 인접한 정보들은 곧 사용될 가능성이 높으므로 미리 불러와서 필요할때마다 캐시에서 바로 꺼내기 좋기 때문이다.

 

🟥 가장 가까이 볼수있는 캐시 종류 :

흔히 쓰는 VSCode, 워드, 엑셀 같은 프로그램을 처음 컴퓨터를 키고 다시 끄고 
다시 실행해본다면 두번째 켰을때 속도가 현저히 빠를것이다. 그것은 프로그램의 
명령어가 아직 메모리에 있고 메모리가 디스크에 대한 캐시로 사용이 되기 때문이다. 
그리고 최근 파일 같이 뜨는 것도 또한 캐시이다.

📌캐시의 성능 

작은 용량의 캐시 메모리에 CPU 가 이후에 참조할, 쓸모 있는 정보가 어느 정도 들어있느냐에 따라 좌우되기 때문이다. 이때 적중율(Hit Rate)을 극대화 시키기 위해  데이터 지역성 원리(Locality)를 사용합니다. 지역성의 전제조건으로 프로그램은 모든 코드나 데이터를 균등하게 엑세스 하지 않는다는 특성을 기본으로 한다. 즉 지역성 원리란 기억 장치 내의 정보를 균일하게 엑세스 하는 것이 아닌 어느 한 순간에 특정 부분을 집중적으로 참조하는 특성인 것이다.

 

데이터 지역성은 크게 시간 지역성(Temporal Locality)과 공간 지역성(Spatial Locality)으로 나뉩니다.

 

👉 시간 지역성 : 최근에 참조된 주소의 내용은 곧 다음에 다시 참조되는 특성.

👉 공간 지역성 : 대부분의 실제 프로그램이 참조된 주소와 인접한 주소의 내용이 다시 참조되는 특성

 

캐시는 시간이 흐르게 되면 저장된 메모리 이상 또는 시간이 꽤 흐른 캐시들은 자동으로 새로 업데이트 된 캐시로 채우게 되며 최근 파일 같은 것도 예전에 저장된 캐시 메모리 같은 경우는 다 자동으로 없어질 것입니다.

 

📌 Catching Line 

다시 말하면 캐시(cache)는 프로세서 가까이에 위치하면서 빈번하게 사용되는 데이터를 놔두는 장소입니다. 하지만 캐시가 아무리 가까이 있더라도 찾고자 하는 데이터가 어느 곳에 저장되어 있는지 몰라 모든 데이터를 순회해야 한다면 시간이 오래 걸리게 됩니다. 그러면 목적에 어긋나므로 캐시에 데이터를 저장할 때 특정 자료구조를 사용하여 묶음으로 저장하게 되는데 이를 캐싱 라인이라고 합니다.

 

프로세스는 다양한 주소에 있는 데이터를 사용하므로 빈번하게 사용하는 데이터의 주소 또한 흩어져 있다. 따라서 캐시에 저장하는 데이터에는 데이터의 메모리 주소 등을 기록해 둔 태그를 달아놓을 필요가 있습니다. 이러한 태그들의 묶음을 캐싱 라인이라고 하고 메모리로부터 가져올 때도 캐싱 라인을 기준으로 가져오게 됩니다. 크게 세가지 방식이 있습니다.

👉 Full Associative :

비어있는 캐시메모리가 있으면 그냥 마음대로 주소를 저장하는 방식. 즉 저장시 크게 알고리즘 비용이 없어 간단한데, 찾을 때 문제. 모든 블럭을 순회해 데이터가 있는지 검사. 이를 위해 CAM(content Addressable memory)라는 특수한 형태의 메모리 구조를 사용하는데 가격이 비싸답니다. 

👉 Set Associative:

특정 로우를 지정해서 그 로우안의 어떤 열이든 비어있으면 저장. 현대 잘나간다는 cpu 캐시들은 대부분 이방식을 취하고 있다.

👉 Direct Map:

메모리 공간이 32개 (00000₂부터 11111₂), 캐시 메모리 공간이 8개 (000₂부터 111₂)

Ex ) 00000₂, 01000₂, 10000₂, 11000₂인 곳의 데이터를 캐시 메모리의 주소가 000₂인 곳에만 읽고 쓰는 방식이다.

 

작동방식 ex)

예를 들어 cpu가 메인 메모리의 00000₂ 주소의 데이터를 두 번 연속으로 읽는다고 한다면 먼저 캐시메모리를 뒤적이는데 요청한 주소가 00000₂이므로 캐시 메모리의 주소가 000₂인 곳을 확인합니다. 확인 후 아무것도 없는 것을 확인하고 직접 메인 메모리의 00000₂ 주소를 참조하여 데이터를 읽어옵니다. 이때 캐시 메모리의 000₂인 공간에 00₂태그비트와 아까 읽은 메인 메모리 00000₂의 데이터를 저장해 놓는다. 그 다음 바로 같은 동작을 수행하면서 똑같이 캐시 메모리의 000₂ 인 곳을 확인하는데 이번엔 데이터가 들어있으니 그 데이터가 CPU가 요구한 주소의 데이터와 일치하는지 태그 비트를 비교하는 검사를 한 뒤 태그 비트마저 일치하면 캐시 메모리에서 데이터를 가져옵니다.

 

간단하고 빠르지만 대신 약점이 굉장히 큰데, Conflict miss(충돌) 문제가 굉장히 큰 방식입니다. 직관적으로 생각해서 위 그림의 회색 데이터는 하나도 저장할 필요가 없는데 주황색 데이터 중 2개 이상을 동시에 저장해야 하는 일이 생기면 굉장히 골치아플 것임을 알 수 있습니다.

 

🟥 하지만 개발자들 사이에서는 브라우저 캐시를 꼭 clear하라고 합니다. 왜일까요?

그렇게 해야 웹페이지가 새로운걸 업데이트 할때마다 업데이트 된 내용을 볼 수 있을것이며 
개인정보 또한 보호 할 수 있고 나중에 웹페이지를 엑세스할때 브라우저 접근 문제가 
생길수도 있고 캐시가 너무 여러 브라우저 접근으로 쌓인 상태이면 특정 웹사이트를 재방문할때 
드는 속도가 더 들수도 있습니다.