젠슨 황 “AI 추론 칩 생산…삼성에 감사”

젠슨 황 엔비디아 최고경영자(CEO)가 16일(현지시간) 미국 캘리포니아주 새너제이 소재 SAP센터에서 진행한 엔비디아 연례 개발자 회의 ‘GTC 2026’에서 기조연설을 하고 있다. 황 CEO는 이날 추론 전용 칩과 새 중앙처리장치(CPU)를 내놓고, ‘그록(Groq)3 언어처리장치(LPU)’를 차세대 AI 슈퍼컴퓨터 ‘베라 루빈’에 통합한다고 밝혔다. [AFP]

“삼성이 우리를 위해 ‘그록3 LPU’ 칩을 만들고 있다. 지금 가능한 한 최대한 빠르게 생산을 늘리고 있다. 삼성에게 정말 감사하다”

젠슨 황 엔비디아 최고경영자(CEO)는 16일(현지시간) 미국 캘리포니아 새너제이에서 열린 인공지능(AI) 콘퍼런스 ‘GTC 2026’ 기조연설에서 새로운 추론 전용 칩 ‘그록(Groq) 3 언어처리장치(LPU)’를 공개했다. 최근 AI 데이터센터의 주요 작업이 ‘훈련’에서 ‘추론’ 중심으로 옮겨가면서 추론 전용 칩이 각광을 받고 있는 가운데 엔비디아도 이 같은 흐름에 대응해 AI 추론 칩을 내놓은 것이다. ▶관련기사 2·3·18면

그록3 LPU는 엔비디아의 그래픽처리장치(GPU)와 함께 작동하도록 설계됐다. GPU가 대규모 연산을 처리하는 동안 LPU는 지연 시간을 줄이고 토큰 생성속도를 높이는 역할을 한다.

엔비디아는 LPU 256개를 묶은 ‘그록 LPX 랙’을 베라 루빈 GPU 시스템과 함께 사용하면 토큰당 전력 효율이 최대 35배 향상될 수 있다고 강조했다.

AI 모델의 방대한 데이터 학습에는 여전히 엔비디아의 고성능 GPU가 필수적이지만 추론은 학습만큼 고성능 GPU가 필요하지 않다.

반도체 업계 관계자는 “엔비디아의 GPU는 너무 비싼 것이 단점이었다. 대안으로 정수만 담아서 휴머노이드 로봇이나 차량에 필수 기능만 넣는 것이 지금의 AI 패러다임이 됐다”고 말했다.

가격이 비싼 GPU보다 상대적으로 저렴하고 필요한 기능만 빠르게 수행하는 추론 칩 수요가 늘면서 엔비디아는 지난해 12월 약 29조원을 들여 AI 추론 전용 칩을 개발하는 스타트업 그록을 우회 인수했다.

그록은 구글 텐서처리장치(TPU) 개발에 참여했던 엔지니어들이 나와 창업한 회사다. AI 추론에 특화된 칩 기술을 보유하고 있다.

이날 젠슨 황 CEO의 발표는 엔비디아가 그록을 인수한 이후 첫 공식 행사였던 만큼 현장의 관심은 그록3 LPU에 집중됐다. 엔비디아는 그록3 LPU를 통해 전 세계 기업들을 계속 엔비디아 생태계 내에 붙잡아 두겠다는 의지를 드러냈다.

엔비디아로서는 추론 시장에서도 계속 지배력을 유지하려면 반드시 그록3 LPU 칩의 성공이 필요한 상황이다. 황 CEO가 이날 기조연설에서 그록3 LPU의 생산을 맡은 삼성전자를 향해 이례적으로 감사하다는 표현을 한 것도 이와 무관하지 않다는 해석이다.

삼성전자는 현재 파운드리 4나노 공정을 기반으로 그록3 LPU를 생산하고 있다. 올 3분기 말이나 4분기부터 출하가 시작될 것으로 보고 있다.

삼성전자 역시 파운드리 사업의 반등을 모색하고 있는 상황에서 엔비디아 물량 수주는 단비와도 같은 소식으로 여겨진다. 당초 엔비디아가 그록을 인수하면서 파운드리 업체도 TSMC로 바꾸는 것 아니냐는 전망이 나왔지만 엔비디아는 삼성 파운드리를 유지했다.

그 배경으로 그록이 엔비디아에 인수되기 전부터 삼성전자 파운드리와의 협업 관계를 이어오고 있었던 점이 꼽힌다.

삼성전자 파운드리는 앞서 그록 2세대 칩을 수주해 생산했을 뿐만 아니라 삼성 엔지니어들이 직접 그록을 찾아가 설계를 지원하는 등 긴밀한 관계를 유지해온 것으로 전해졌다.

또한, 삼성전자 파운드리 공정을 통해 생산된 그록 칩의 성능에 대해 엔비디아가 긍정적으로 평가하면서 삼성전자를 택했을 것이란 추측도 나온다.

반도체 업계는 최근 삼성전자가 엔비디아에 6세대 고대역폭메모리(HBM4)를 업계에서 가장 먼저 출하한 데 이어 엔비디아의 신규 AI 추론 칩 물량까지 수주하면서 양사의 협력이 메모리에 이어 파운드리 분야로 점차 확대될 것으로 내다보고 있다.

새너제이=김현일 기자