컴퓨터 구조 5_Cache Memory

 

 

대부분의 프로그램이 많은 시간이 보내는게 메모리에 접근하는 시간이다.
Instruction Data 등을 가져오는 작업들이다. 메모리에 접근할 수 있는 속도가 

컴퓨터의 성능에 굉장히 중요한 역할을 한다.

 

메모리가 크고 빠르기를 원하지만 둘이 반비례의 관계를 가진다. 큰 메모리일 수록 느려진다는 것이다. 또 하나 고려할 것은 가격인데 빠를 수록 비싸진다. 값도 적당하고 빠르기도 빠른 메모리를 갖기는 쉽지 않은 것이다. SRAM DRAM Disk는 눈여겨 볼 것이 아니라 그냥 보고 넘어가도 좋다(오래된 자료)
Static, Dynamic 의 차이이고 메모리는 Dynamic을 사용한다.
Static은 Volatile하지 않은 특징이 있고 속도가 빠른데신 비싸고
Dynamic은 속도는 느리고 가격은 적당하다.
이상적인 메모리는 SRAM의 속도를 가지고 있고 용량이 크며 가격이 적은 메모리이다.

 

Solution Hierarchy
CPU와 가장 가까운 레벨에 Cache 메모리가 있다. 예전에 Level n에 tape이라는 것이 있었다. 이렇게 계층구조를 두는데, Distance는 위로 갈수록 가까워 진다. 즉 더 쉽고 빠르게 접근(access)할 수 있으며 사이즈가 작아지며 값이 비싸진다.
그러면 원하는 메모리를 가질 수 있는가를 질문한다..!

 

Locality
메모리 계층 구조를 갖는 것이 좋은 이유
1. temporal locality 는 방금 사용된 reference된 아이템은 곧 다시 사용될 것이다라는 것. 시간에 관한 것이다. 

a의 값을 구하고 다시 a를 사용하는 경우가 많이 있다.  똑같은 a가 곧 사용될 것이라는 얘기이다. 

2. spacial locality는 현재 reference된 아이템이 곧 사용된다는 것이다. a[0] 근처에 있는 a[1], a[2]는 곧 사용될 reference item 이라는 것이다. sum = sum + a[i] 에서 sum을 보면 temporal locality가 있고 a[i] 배열에는 spacial locality가 있다. 메인 메모리에 sum도 있고 배열도 있는 데 Processor가 더 접근하기 쉬운 곳 Cache라는 핵심 메모리에 저장한다는 것이다.

비유: 컴퓨터 구조를 듣는데 열심히 들어야 하니까 인터넷과 도서관에서 책을 빌려야 할 것이다. 그것에 맨날 접근할 때마다 시간이 많이 들기 때문에 입구에 책을 가져다 놓는다고 하면 우리는 Processor이고 도서관의 열람실은 Main Memory 갖다논 책이 잇는 책장은 Cache 메모리가 된다. 굳이 열람실까지 갈 필요 없이 책장에 가면 사용이 된다는 것이다. 다음 학기에는 책장에 OS관련 책을 가져다 놓는 등 자주 쓰는 것을 가져다가 저장해놓는다. 가장 싼 가격에 메모리를 제공하고 가장 빠른 속도의 접근력을 제공하자는 것이다.

 

삼각형을 오른쪽으로 눕힘
Chip 안에 Cache 메모리를 둘 수 있고 Second level 은 Cache 메모리 등으로 가고 잘만 Cache 안에 가져다 두면 마치 Processor가 필요한 데이터가 speed는 안에 있고 Data는 메모리에 있는 듯한 착각을 가져다 둔다고 할 수 있다.

 

가운데 있는 것을 Cache 메모리 아래에 있는 것을 Main memory라고 해보자. 내가 필요한 데이터만 가져오는 것이 아니라 그 근처에 있는 block 단위로 움직이는 것. hit은 Cache로 찾으러 갓는데 있으면 hit 없으면 miss라고 한다.
block을 로딩하기 전까지 CPU는 stall 상태가 되고 가져오면 CPU가 접근을 한다. 이런 것은 시간이 오래 걸리고 miss가 많이 이루어지면 시간이 느려진다. 그럼에도 이렇게 하는 이유는 temporal , spacial locality가 있기 때문이다(********). 성능이 좋아지더라는 것.!!

Control Hazard : Stall
stall을 하면 CPI가 증가한다는 것
CPI - miss가 많아지면 CPI 가 증가한다는 것이었다.