Memory Wall이란? AI에서 하드웨어 병목 현상은 프로세서가 아닌 메모리 때문에 발생한다! 메모리병목현상 메모리월 메모리벽 메모리장벽


Memory Wall이란? AI에서 하드웨어 병목 현상은 프로세서가 아닌 메모리 때문에 발생한다! 메모리병목현상 메모리월 메모리벽 메모리장벽

반도체 공정이 미세화 될 수록 PPA 효율이 좋아진다는 대전제 아래에서, 공정회사들은 수십년 동안 반도체 집적도를 2년마다 2배씩 높여왔습니다. Transistor만 있는 시스템반도체와 달리, 좀 더 공정이 복잡한 메모리 반도체의 경우, 집적발전속도가 좀 더딥니다. 왜 PIM을 해야할까? 왜 CXL을 해야할까? 왜 HBM을 해야할까?!?!?! 여기서부터 글을 시작합니다! Memory wall이란? 메모리 반도체 부분에서 발생하는 병목현상을 말합니다. Memory wall이란, 1994년에 Wulf와 McKee로 이론화 된 내용입니다. "반도체의 발전속도가 현재 추세로 지속되면, 프로세서가 작업을 빨리 끝내도 메모리에서 정체되어 전체 칩 성능 개선이 더뎌질 것이다"라고 하였는데, 그 일이 실제로 발생하고 있습니다. AI, SW에서 요구량은 기하급수적으로 요구량이 커지고, 시스템 반도체도 무어의법칙에 맞춰 성능 개선이 되고 있지만, 메모리 반도체는 성능 개선속도가 가장 느리고, 이 부분...



원문링크 : Memory Wall이란? AI에서 하드웨어 병목 현상은 프로세서가 아닌 메모리 때문에 발생한다! 메모리병목현상 메모리월 메모리벽 메모리장벽