[컴퓨터 구조] 메모리[2] - 캐시의 Miss와 Write 처리

 

 

 

 

🧐 캐시 실패의 처리

캐시 실패는 제어 유닛(control unit)이 처리합니다.

제어 유닛은 실패를 탐지해야 하며, 메모리(또는 하위 수준의 캐시)로부터 데이터를 가져와서 실패를 처리해야 합니다.

 

캐시 적중을 처리할 수 있게 프로세서의 제어 유닛을 수정하는 것은 쉬운 일이지만, 실패의 경우에는 몇 가지 작업이 더 필요합니다.

캐시 실패 처리는 프로세서의 제어 유닛과 별도의 제어기의 공동 작업으로 처리됩니다.

 

이 제어기는 메모리 접근을 시작하고, 캐시를 채우는 일을 합니다.

예외나 인터럽트는 모든 레지스터의 상태를 저장해야 하지만, 캐시 실패의 처리는 파이프라인 지연(stall)만을 발생시킵니다.

캐시 실패 발생 시에는 임시 레지스터와 프로그래머에게 보이는 레지스터의 내용을 그대로 유지한 채 메모리에서 데이터가 오기를 기다리면서 전체 시스템을 지연시킵니다.

 

 

명령어 캐시 실패의 처리 단계는 다음과 같이 정의할 수 있습니다.

• 원래의 PC값을 메인 메모리로 보냅니다.
• 메인 메모리에 읽기 동작을 지시하고, 메모리가 접근을 끝낼 때까지 기다립니다.
• 캐시 엔트리에 씁니다.
• 명령어 수행을 첫 단계부터 다시 시작합니다. 캐시에서 명령어를 다시 인출하는데 이번에는 필요한 명령어를 캐시에서 찾을 수 있습니다.

 

 

데이터 접근을 위한 캐시 제어도 기본적으로는 같아서, 실패가 발생하면 메모리가 데이터를 보내 줄 때까지 프로세서를 지연시킵니다.

 

 

 

 

 

 

 

 

 

🧐 쓰기의 처리

데이터를 쓰는 경우에는 생각할 점이 좀 더 많아집니다.

쓰기의 경우 miss가 발생할 경우 데이터를 들고올 필요 없이 바로 쓰면 된다고 생각할 수 있습니다.

그러나 쓰기의 경우에도 데이터를 데이터 캐시에만 쓰고, 메인 메모리에 쓰지 않는다면 메인 메모리는 캐시와 다른 값을 갖게 됩니다.

이 경우에 캐시와 메모리가 불일치(inconsistent)한다고 합니다.

Read를 하는 경우든지 Write를 하는 경우든지 Miss가 발생하였다면 항상 필요한 데이터를 캐시로 들고와야 합니다.

(참고 - 쓰기 비할당(no wriet allocate))

쓰기 Miss가 발생하였을 때, 메모리에 있는 블록의 해당 부분만 갱신하고 캐시에는 쓰지 않는 방식입니다.

 

이 방식이 나오게 된 동기는 프로그램이 때때로 데이터 블록을 통째로 바꾸는 일이 발생하기 때문입니다.

 

예를 들면 운영체제가 메모리의 한 페이지를 모두 0으로 만드는 것과 같습니다.

 

이 경우 쓰기 실패가 처음 발생했을 때 이 블록을 캐시로 가져올 필요는 없습니다.

 

 

 

 

👉 write-through

메인 메모리와 캐시를 일치시키는 가장 쉬운 방법은 항상 데이터를 메모리와 캐시에 같이 쓰는 것입니다.

이 방법을 즉시 쓰기(write-through)라고 부릅니다.

 

해당 방식이 쓰기를 간단히 처리할 뿐더러, 데이터의 불일치도 확실하게 예방할 수 있지만, 좋은 성능을 제공하기는 어렵습니다.

즉시 쓰기 방식에서는 모든 쓰기가 메인 메모리에 데이터를 써야만 합니다.

이 쓰기는 시간이 오래 걸려서 최소한 100개의 클럭 사이클이 필요한 경우가 많고, 따라서 프로세서의 성능을 크게 저하시킵니다.

 

성능 저하 예시를 위해 해당 쓰기에 추가로 필요한 클럭 사이클이 100개라 하겠습니다.

명령어의 10%가 저장 명령어라 가정하고, 캐시 실패가 없을 때 CPI가 1이라 하겠습니다.

그렇다면 CPI = 1 + 100 x 10% = 11이 되어 10배 이상의 성능 저하가 생기게 됩니다.

 

 

해당 문제를 해결하기 위한 방법으로 쓰기 버퍼(write buffer)를 이용하는 방법이 있습니다.

쓰기 버퍼는 데이터가 메모리에 써질 때까지 기다리는 동안 이 데이터를 저장합니다.

데이터를 캐시와 쓰기 버퍼에 쓰고 난 후에 프로세서는 바로 수행을 계속할 수 있습니다.

 

메인 메모리에 쓰기를 완료하면 버퍼의 엔트리는 지워집니다.

프로세서가 쓰기를 하려고 할 때 쓰기 버퍼가 모두 차 있으면 쓰기 버퍼에 빈 공간이 생길 때까지 멈춰 있어야 합니다.

즉 오직 쓰기 버퍼가 꽉 찬 상태일 때만 지연(stall)이 발생합니다.

 

물론 메모리가 쓰기를 완료할 수 있는 속도가 프로세서의 쓰기 동작 발생 속도보다 느리면 아무리 큰 버퍼를 사용해도 도움이 되지 않습니다.

왜냐하면 메모리 시스템이 쓰기를 받아들이는 것 보다 쓰기가 더 빨리 진행되기 때문입니다.

 

 

 

 

👉 write back

나중 쓰기(write back) 방식은 쓰기가 발생했을 때 새로운 값은 캐시 내의 블록에만 썼다가,

나중에 캐시에서 쫒겨날 때 쓰기에 의해 내용이 바뀌었으면 이 블록을 하위 메모리 계층에 써주는 방식입니다.

 

나중 쓰기 방식은 성능을 크게 향상시킬 수 있지만, 구현이 복잡할 뿐더러 멀티 프로세스 상황 등에서 메인 메모리와 캐시 사이의 데이터 불일치가 일어날 가능성이 존재합니다.