OpenAI-Broadcom, LLM 추론 전용 AI 칩 '할라페뇨(Jalapeño)' 공개

OpenAI와 반도체 기업 Broadcom이 공동 개발한 LLM(대형 언어 모델) 추론 전용 칩 '할라페뇨(Jalapeño)'를 2026년 6월 25일 공개했다. 이는 OpenAI가 독자 개발한 최초의 맞춤형 AI 가속기로, 일반 목적 GPU와 달리 LLM 추론 작업에 완전히 최적화된 아키텍처를 갖추고 있다.

할라페뇨는 OpenAI 연구진의 실제 서비스 운영 데이터를 기반으로 커널 구조, 메모리 이동, 네트워킹, 서빙 패턴 등을 처음부터 새로 설계한 ASIC(주문형 반도체)이다. 레이턴시 감소와 데이터 이동 최소화를 핵심 목표로 삼았으며, 현 최고 수준 대비 전력당 성능이 실질적으로 향상될 것으로 발표됐다. 설계 착수부터 테이프아웃(양산 전 최종 설계 확정 단계)까지 9개월이 소요된 것으로 알려졌으며, 이는 고성능 반도체 개발 사이클 중 가장 빠른 축에 속한다는 평가다.

칩의 실리콘 구현과 네트워킹 기술은 Broadcom이, 보드·랙·시스템 통합 및 양산은 Celestica가 각각 담당한다. 현재 엔지니어링 샘플이 실험실에서 양산 목표 주파수와 전력 벤치마크를 실행 중이며, 최종 성능 수치와 상세 기술 사양은 추후 공개될 예정이다.

초기 상용 배포는 2026년 말을 목표로 하며, 장기적으로는 10기가와트(GW) 규모의 AI 데이터센터 용량 확보를 목표로 삼고 있다. OpenAI는 이번 칩과 별개로 AWS, Cerebras, AMD 등과의 파트너십도 유지해 다양한 워크로드에 유연하게 대응하는 복합 전략을 이어갈 방침이다.

이번 발표는 AI 반도체 시장에서 NVIDIA 의존도를 줄이려는 빅테크의 흐름을 상징한다. 구글(TPU), 아마존(Trainium), 메타(MTIA)에 이어 OpenAI까지 독자 칩 개발에 나서면서, AI 인프라 경쟁이 소프트웨어를 넘어 하드웨어 레벨로 확산되고 있다. 한국 독자에게는 AI 서비스 운영 비용의 큰 부분을 차지하는 추론 칩 시장의 다극화가 중장기적으로 어떤 변화를 가져올지 주목할 필요가 있다.