반도체 회사소개: Groq ChatGPT보다 18배 빠르다? 반도체 엔지니어 시점에서

최근 인공지능 반도체 씬에서 가장 핫한 회사가 있습니다. Groq입니다. 아래 영상 먼저 보시죠. 어떤 사람들은 이거 그냥 어그로다 / 실제 성능 이렇지 않다 / 양산 불가능한 설계구조다... 말이 많습니다. 아키텍쳐를 대강 보긴 했는데, 이거 일단 가장 핵심 부분은 HBM이 아니고 SRAM을 이용한 캐시메모리 구조이며, 여러개의 칩을 연결하여 확장하는 구조로 만들어져있습니다. Groq 회사 및 창립자 소개 Groq는 2021년 Google AI의 핵심 인공지능 기술을 기반으로 설립된 인공지능 칩 스타트업입니다. Groq의 설립자는 Jonathan Ross입니다. 주요 경력은 구글에서 SW, HW 엔지니어 경력입니다. SW 기술의 발전 속도가 HW의 발전 속도를 훨씬 앞지르고 있다는 문제점을 인지했고, 이러한 불균형은 인공지능 기술의 잠재력을 제한하고 미래의 혁신을 저해할 수 있다는 우려를 낳았습니다. 이러한 문제를 해결하기 위해 인공지능 칩 개발에 특화된 회사를 설립하게 되었습니다...

원문링크 : 반도체 회사소개: Groq ChatGPT보다 18배 빠르다? 반도체 엔지니어 시점에서