OpenAI가 첫 맞춤형 AI 칩의 세부 사항을 공개하다
OpenAI 맞춤형 AI 칩 Jalapeño는 ChatGPT와 에이전트의 추론 효율을 높인다 Broadcom이 제작한 이 ASIC이 어떻게 Nvidia 의존도를 줄이고 컴퓨팅을 빠르게 확장할 수 있는지 확인해 보세요
OpenAI가 Broadcom과 함께 개발한 첫 맞춤형 AI 칩인 Jalapeño에 대한 새로운 세부 내용을 공개했다. 회사는 OpenAI 모델의 도움으로 공정을 최적화하면서, 이 칩이 설계 단계에서 공장 투입 가능 상태로 전환되는 데 9개월이 걸렸다고 밝혔다.
Jalapeño는 새 모델을 학습시키는 용도가 아니라, 학습된 모델이 사용자에게 서비스를 제공하는 추론 단계에 맞춰 설계된 ASIC이다. OpenAI는 테스트 결과 현재 최첨단 칩들보다 와트당 성능이 상당히 더 우수했다고 밝혔다.
이 칩은 맞춤형 컴퓨트 스택을 확장하고 ChatGPT, Codex, 향후 에이전트 같은 제품을 서비스하는 데 있어 Nvidia에 대한 의존도를 줄이려는 OpenAI의 더 큰 계획의 일부다. OpenAI는 2029년까지 맞춤형 칩으로 10기가와트의 컴퓨팅을 구동하는 것을 목표로 하며, 동시에 모델 학습에는 여전히 Nvidia를 사용할 것이라고 밝혔다.