5주차 주말간 이슈 정리

저희가 쉬는 동안 금요일 저녁 발표된 미국 PCE 물가 지표와 오늘 중국 제조업 PMI 지수 발표 외에는 특별히 부각된 이슈는 없었습니다. 주말 마무리 잘 하시길 바랍니다.

삼성은 AI 추론 칩 '마하 1'을 어떻게 만들까? 마하1 : 데이터센터용 AI 추론 칩 경량화 삼성전자는 마하1에서 데이터를 경량화 하겠다는 목표를 세웠다.

AI는 수많은 데이터를 입력해 훈련을 한 다음, 그 결과를 토대로 마치 사람처럼 추론하는 과정으로 진행된다. AI 시스템은 귀납적인 사고를 하기 때문에 학습한 데이터가 많을수록 정확해지고, 그래서 정보가 쌓일수록 추론의 과정 역시 복잡해진다.

LLM AI용 데이터센터가 수많은 GPU나 CPU, AI용 연산 장치를 설치해 놓는 이유이기도 하다. 그런데 문제는 데이터 병목현상과 전력이다.

점차 데이터가 늘어나면서 정보가 메모리 AI 칩 사이를 원활하게 오가도록 정보출입구(I/O) 수를 대폭 늘린 HBM이 개발되었음에도 병목현상은 쉽게 해결되지 않았다. 이미 연...

원문링크 : 5주차 주말간 이슈 정리