스크래치패드 메모리란?

데이터 액세스는 CPU 설계의 중요한 부분입니다. CPU는 매우 빠른 속도로 작동하며 각 클록 주기마다 여러 명령을 처리하므로 많은 데이터에 액세스해야 합니다. 해당 데이터의 대부분은 스토리지 미디어에 저장됩니다. 그러나 저장 장치는 CPU에 비해 엄청나게 느립니다. 저장 장치는 무작위 읽기보다 순차 읽기에서 훨씬 더 우수하지만 SSD는 HDD에 비해 이와 관련하여(및 기타 여러 측면에서) 현저한 개선을 제공합니다.

시스템 RAM은 CPU가 현재 실행 중인 소프트웨어에 필요할 수 있는 모든 데이터와 함께 로드되도록 설계되었습니다. RAM은 스토리지보다 대기 시간이 훨씬 짧으며 높은 임의 읽기 성능을 갖도록 특별히 조정되었습니다. 그럼에도 불구하고 최신 RAM이 빠르긴 하지만 대기 시간이 400클록 주기 정도인 CPU에 비하면 여전히 아무것도 아닙니다.

대기 시간을 더 줄이기 위해 대부분의 최신 CPU에는 캐시 메모리 계층이 포함되어 있습니다. 일반적으로 이를 L1, L2 및 L3 캐시라고 합니다. L1은 매우 빠르며 일반적으로 액세스하는 데 5클럭 주기 정도 걸립니다. L2는 20주기 정도로 약간 느립니다. L3는 여전히 약 200주기에서 더 느립니다. L1은 엄청나게 빠르지만 크기도 작습니다. 속도의 대부분은 캐시가 작을수록 검색 시간이 덜 걸린다는 사실에서 비롯됩니다. L2는 L1보다 크지만 여전히 시스템 RAM보다 작은 L3보다 작습니다. 고성능 CPU를 얻으려면 이러한 캐시 크기의 균형을 잘 맞추는 것이 중요합니다. 캐시 적중률은 중요하지만 적중 수와 해당 적중을 얻는 데 걸리는 시간, 즉 계층의 균형을 맞춰야 합니다.

스크래치패드 메모리

스크래치패드 메모리는 기존 메모리 계층 구조에 맞지 않습니다. 대부분의 소비자 CPU에서 사용되지 않기 때문입니다. 스크래치패드 메모리는 실생활에서 스크래치패드처럼 사용하도록 설계되었습니다. 기억해야 하지만 실제로 정리할 필요는 없는 임시 정보를 기록해 둡니다. 대부분의 시간 동안 CPU는 데이터를 처리한 다음 해당 결과를 즉시 다시 필요로 합니다. 메모리에 복사할 수 있지만 빠르게 액세스하려면 캐시에도 보관해야 합니다.

스크래치패드 메모리는 기본적으로 L1 캐시와 동일한 간격을 채웁니다. 종종 한 자릿수 사이클 수로 가능한 한 빨리 액세스할 수 있습니다. 이를 관리하기 위해 상대적으로 작습니다. 하지만 L1과 스크래치패드 메모리 사이에는 두 가지 주요 차이점이 있습니다. 첫째, 스크래치패드 메모리는 직접 주소 지정이 가능합니다. 둘째, 모든 코어와 프로세서 간에 공유됩니다.

캐시와 스크래치패드의 차이점

CPU 캐시는 기본적으로 CPU에 대해 투명하며 의도적으로 데이터를 저장할 수 없으며 내용을 프로그래밍할 수 없습니다. 대신 CPU는 RAM에서 데이터를 요청하고 예상보다 훨씬 빠르게 데이터를 다시 가져옵니다. 스크래치패드에 주소를 지정할 수 있다는 것은 코드가 스크래치패드에 있어야 할 데이터를 정확히 지정할 수 있음을 의미합니다. 이것은 유용할 수 있지만 최신 캐싱 알고리즘은 표준 워크로드에서 예상되는 95-97%의 적중률로 우수합니다.

L1 캐시는 항상 개별 처리 코어에 잠겨 있습니다. 다른 프로세싱 코어는 액세스할 수 없습니다. 즉, 여러 코어에 동일한 데이터가 필요한 경우 각각의 L1 캐시에 복제할 수 있습니다. 일부 CPU 아키텍처에서 L2는 코어당이고 다른 아키텍처에서는 소수 또는 모든 코어에서 공유됩니다. L3는 모든 코어에서 공유되는 경향이 있습니다. 코어 간에 캐시를 공유하면 둘 이상의 코어가 동일한 데이터를 복제하지 않고 액세스할 수 있습니다. 또한 하나의 코어가 필요하고 캐시에 공간이 있을 때 공정한 공유보다 더 많이 활용할 수 있습니다.

Scratchpad는 속도와 용량 측면에서 L1과 유사하게 작동하지만 모든 코어 간에 공유됩니다. 이를 통해 멀티스레드 워크로드에서 처리 중인 특정 데이터에 매우 빠르게 액세스할 수 있습니다. Scratchpad 메모리는 멀티 소켓 마더보드의 개별 CPU 간에도 공유할 수 있습니다.

스크래치패드 메모리의 한 가지 단점은 너무 많이 의존할 수 있다는 것입니다. 직접 액세스할 수 있기 때문에 소프트웨어는 특정 수량의 존재에 의존할 수 있습니다. 이 경우 스크래치패드 메모리가 많지 않은 CPU에서는 실행할 수 없습니다. 캐시 계층은 이 문제가 발생하지 않으므로 범용 사용에 더 적합합니다.

사용 사례

Scratchpad 메모리는 HPC(고성능 컴퓨팅)용으로 설계된 다중 소켓 서버 시스템에서 가장 자주 발견됩니다. 거기에서 속도와 공유 액세스의 조합은 고도의 병렬 워크로드에 유용합니다.

Scratchpad 메모리는 훨씬 더 작은 프로세서에서도 사용됩니다. 임베디드 프로세서, 종종 MPSoC. 임베디드 프로세서는 종종 비교적 저전력이며 특정 작업에 특화되어 있습니다. 이 전문화는 종종 하드웨어 최적화로 표현됩니다. 특히 Multi-Processor System on a Chip에서 공유 고속 메모리는 여러 다른 프로세서에 상당한 대기 시간 개선을 제공할 수 있습니다. 이러한 종류의 CPU는 종종 디자인이 매우 고정되어 있습니다. 예를 들어 게임 콘솔은 이미 하드웨어 디자인에 대한 많은 최적화를 보고 있으므로 이전 버전이나 이전 버전과의 호환성에 대해 걱정할 필요 없이 이러한 기능을 잘 활용할 수 있습니다.

결론

스크래치패드 메모리는 L1 캐시와 유사하지만 사용 사례를 변경하는 여러 가지 차이점이 있습니다. 캐시가 되는 대신 직접 주소 지정이 가능하여 데이터를 특히 고속 메모리에 할당할 수 있습니다. 또한 모든 프로세서 코어와 프로세서 간에 공유되므로 다중 스레드 워크로드가 많은 경우 특히 유용합니다.