캐시가 중요한 이유는 x86/amd64 명령어가 메모리 접근을 시도 때도 없이 많이 하기 때문입니다. 요즘은 SW 규모가 워낙 크기 때문에 서버나 PC나 캐시가 크면 빠른 건 똑같습니다. 캐시가 아마 일반 CPU에서도 내장GPU 다음으로 실리콘에서 면적이 넓을 거에요. 그래서 CPU 생산량이나 수율에 미치는 영향이 크고, 결과적으로 CPU 단가에 직접적인 영향이 있습니다. 서버 CPU야 개당 몇 백만원 씩 받을 수 있으니까 크게 넣을 수 있지만, 일반 CPU에는 그럴 수가 없을 뿐입니다.
레지스터가 많고 대부분의 명령어가 레지스터 기반으로 동작하는 RISC 계열에서는 확실히 캐시크기가 성능에 미치는 영향이 (상대적으로) 적습니다.
메인 메모리용 D램의 메모리 읽기/쓰기 속도가 계속 빨라지고 있기는 하지만 캐시 메모리에 비해 몇 배 느립니다.
캐시 메모리에는 SRAM, 메인 메모리에는 DRAM을 사용하는데, SRAM자체가 원래 DRAM보다 훨씬 빠르기도 하고, 캐시 메모리는 CPU 내장인데 비해 DRAM은 외장이라 배선의 길이가 수백 배 이상 길어져서 접근 속도가 훨씬 떨어집니다.
10년 전 정도에는 DRAM접근 속도가 100nano초대, SRAM은 10nano초대였습니다(지금은 더 빨라졌을 거라고 생각합니다). 속도차가 HDD와 SSD 차이 정도 되는거죠.
CPU에 캐시가 없으면 SSD를 HDD로 다운그레이드한 정도 속도로 떨어진다고 생각하시면 됩니다.
캐시를 너무 많이 달아도 부작용이 있긴 합니다, 어느 정도까지는 많을수록 속도가 빨라집니다.
중간에 간간히 cache가 크다고 다 좋은건 아니다라는 의견들이 있으신데
cache가 비싸기 때문에 그만큼의 값어치를 못하는 경우가 있기 때문에 "적절한 용량이 가성비가 좋다" 이지
cache가 크다고 느려지는건 아니지 않나요?
cache가 크면 더 느려진다는 자료가 있나요?
이론적으로 cpu내 레지스터가 메모리 구조의 최상위입니다.
가장 빠르죠.
여기가 무한정 커서 우리가 쓰는 스토리지 만큼 쓴다면 환상적이겠죠.
하지만 메모리 구조의 상위에 속할수록 많은 비용이 듭니다.
flip flop은 tr로만 이뤄지는데 최소 4개 인가? 1비트 저장하는데 비쌉니다.
캐시도 cpu 보단 느리지만.flip flop일테고
메모리는 dram 이라.tr 1개로 줄어들이.상대적으로.싸집니다만 그래도 ssd hdd 마그네틱.테이프.등에.비하면 비싸죠
그리고 컴퓨터 구조를.배워보시면
locality라는게 나옵니다. 캐시가 그리 클 이유도 없는 것이 프로그램이 루프를 돌때 코드가 크지 않기 때문이죠
게임이 요즘 1테라하더라도 텍스쳐나 오디오 때문이지
게임엔진은 그.중에 1기가 할까말까 할겁니다
그리고 느려질수도 있는건
빠른 캐시임에도 캐시이기 때문입니다.
메인.데이터는 dram에.있고 캐시에.있는지.검색하는.시간이 필요하며 없으면(즉.모든.데이터를.검색후) dram에서 읽어와야합니다
그렇기에.캐시가.너무 크면.없는.걸.증명하는.비용이 커집니다
그리고 캐시는.임시데이터 입니다
메인 데이터와.동기화를.해야하는데 캐시가. 커질수록 dram과의 비교해서 복사할.데이터를.판별해야하는.비용도 같이.커지죠
실제로 느려집니다.
이유는 캐시 용량을 크게 하려면 다이가 커지고
다이가 커지면 배선이 길어지기 때문입니다.
배선이 길면 전류 이동 시간이 길어져서 캐시 용량이 늘어날 수록 캐기 자체의 액세스 속도는 점체적으로 더 느려집니다. 물론 그래도 DRAM보다는 빠르겠죠.
캐시 늘려서 빨라지는 효과와 배선이 길어져서 느려지는 효과, 사용할 시스템 규모, 비용 다 고려해서 만들어야죠.
임베디드 시스템 같은 소규모 용도라면 캐시를 너무 많이 넣으면 오히려 느려지겠죠.
캐쉬는 용량이 크다고 다 좋은 것은 아니지만 캐쉬는 컴퓨터의 가장 빠른 CPU와 메모리 및 I/O의 중간에 서서 시스템을 좀 더 부드럽게
그리고 전제적으로는 시스템을 더 빠르게 만들어 줍니다..
캐쉬가 커지면 대용량 작업이 가능해진다고 봐도 되긴 합니다..
PC CPU에도 캐쉬 메모리 키운 AMD 라이젠 3D 모델이 따로 존재합니다..
레지스터가 많고 대부분의 명령어가 레지스터 기반으로 동작하는 RISC 계열에서는 확실히 캐시크기가 성능에 미치는 영향이 (상대적으로) 적습니다.
캐시 메모리에는 SRAM, 메인 메모리에는 DRAM을 사용하는데, SRAM자체가 원래 DRAM보다 훨씬 빠르기도 하고, 캐시 메모리는 CPU 내장인데 비해 DRAM은 외장이라 배선의 길이가 수백 배 이상 길어져서 접근 속도가 훨씬 떨어집니다.
10년 전 정도에는 DRAM접근 속도가 100nano초대, SRAM은 10nano초대였습니다(지금은 더 빨라졌을 거라고 생각합니다). 속도차가 HDD와 SSD 차이 정도 되는거죠.
CPU에 캐시가 없으면 SSD를 HDD로 다운그레이드한 정도 속도로 떨어진다고 생각하시면 됩니다.
캐시를 너무 많이 달아도 부작용이 있긴 합니다, 어느 정도까지는 많을수록 속도가 빨라집니다.
중간에 간간히 cache가 크다고 다 좋은건 아니다라는 의견들이 있으신데
cache가 비싸기 때문에 그만큼의 값어치를 못하는 경우가 있기 때문에 "적절한 용량이 가성비가 좋다" 이지
cache가 크다고 느려지는건 아니지 않나요?
cache가 크면 더 느려진다는 자료가 있나요?
단순하게 가격만 비싸지는게 아니라
그만큼 전력 소모도 당연히 늘겠죠.
전력소모가 늘어난다는건 열 관리도 더 어려워질테고요.
결과적으로 성능에 맞춰 캐시 메모리 용량도 조절하는게
맞겠죠.
가장 빠르죠.
여기가 무한정 커서 우리가 쓰는 스토리지 만큼 쓴다면 환상적이겠죠.
하지만 메모리 구조의 상위에 속할수록 많은 비용이 듭니다.
flip flop은 tr로만 이뤄지는데 최소 4개 인가? 1비트 저장하는데 비쌉니다.
캐시도 cpu 보단 느리지만.flip flop일테고
메모리는 dram 이라.tr 1개로 줄어들이.상대적으로.싸집니다만 그래도 ssd hdd 마그네틱.테이프.등에.비하면 비싸죠
그리고 컴퓨터 구조를.배워보시면
locality라는게 나옵니다. 캐시가 그리 클 이유도 없는 것이 프로그램이 루프를 돌때 코드가 크지 않기 때문이죠
게임이 요즘 1테라하더라도 텍스쳐나 오디오 때문이지
게임엔진은 그.중에 1기가 할까말까 할겁니다
그리고 느려질수도 있는건
빠른 캐시임에도 캐시이기 때문입니다.
메인.데이터는 dram에.있고 캐시에.있는지.검색하는.시간이 필요하며 없으면(즉.모든.데이터를.검색후) dram에서 읽어와야합니다
그렇기에.캐시가.너무 크면.없는.걸.증명하는.비용이 커집니다
그리고 캐시는.임시데이터 입니다
메인 데이터와.동기화를.해야하는데 캐시가. 커질수록 dram과의 비교해서 복사할.데이터를.판별해야하는.비용도 같이.커지죠
이유는 캐시 용량을 크게 하려면 다이가 커지고
다이가 커지면 배선이 길어지기 때문입니다.
배선이 길면 전류 이동 시간이 길어져서 캐시 용량이 늘어날 수록 캐기 자체의 액세스 속도는 점체적으로 더 느려집니다. 물론 그래도 DRAM보다는 빠르겠죠.
캐시 늘려서 빨라지는 효과와 배선이 길어져서 느려지는 효과, 사용할 시스템 규모, 비용 다 고려해서 만들어야죠.
임베디드 시스템 같은 소규모 용도라면 캐시를 너무 많이 넣으면 오히려 느려지겠죠.
https://jane096.github.io/project/redis-caching/
https://blog.naver.com/techref/222290234374
잘은 모르지만 이래저래 검색해보면 캐쉬에 대하여 여러가지 자료가 나옵니다..
캐쉬 메모리가 커져도 성능이 크게 올라가지 않는 이유는 캐쉬에는 히트레이트가 존재하는데 그 값이 높을수록 효율이 좋아져 성능이 향상되고
그 값이 낮으면 효율이 낮아져 성능이 떨어지게 됩니다..