엔비디아가 추론 전용 칩과 차세대 중앙처리장치(CPU)를 공개하며 인공지능 산업의 중심이 ‘학습’에서 ‘추론’으로 이동하고 있다고 선언했다. AI 에이전트 확산에 따라 연산 구조 자체를 재설계하는 단계에 들어섰다는 평가다.

GPU·LPU·CPU 삼각 구조…AI 인프라 재편

젠슨 황 CEO는 GTC 2026 기조연설에서 새로운 AI 아키텍처를 제시했다. 핵심은 GPU, LPU, CPU로 역할을 분리한 구조다.

GPU는 대규모 데이터 학습과 연산을 담당하고, LPU는 초저지연 환경에서 추론을 수행한다. CPU는 전체 시스템을 조율하는 역할을 맡는다.

이 같은 구조는 AI 에이전트가 여러 작업을 동시에 수행하는 환경에서 빠른 응답과 안정적인 운영을 동시에 확보하기 위한 설계다.

추론 처리량 35배…AI 경쟁 기준 변화

엔비디아는 LPU 기반 구조를 통해 초대형 AI 모델의 추론 처리량을 최대 35배까지 높일 수 있다고 밝혔다.

이는 단순한 성능 향상을 넘어 AI 경쟁의 기준이 바뀌고 있음을 의미한다. 기존에는 모델 학습 능력이 핵심이었다면, 현재는 실시간 응답 속도와 처리 효율이 핵심 지표로 부상하고 있다.

젠슨 황은 AI 에이전트 등장 이후 추론 수요가 초기 챗GPT 대비 1만배 증가했고, 사용량까지 고려하면 연산 수요가 100만배 확대됐다고 설명했다.

차세대 CPU ‘베라’ 공개…에너지 효율 경쟁 본격화

엔비디아는 새로운 CPU ‘베라(Vera)’도 함께 공개했다.

이 CPU는 기존 x86 기반 대비 성능 1.5배, 에너지 효율 2배 향상을 목표로 설계됐으며, 자체 개발한 코어를 통해 메모리 대역폭도 크게 확장했다.

데이터센터 운영 비용에서 전력 효율이 핵심 변수로 떠오른 만큼, CPU 경쟁 역시 성능보다 효율 중심으로 재편되는 흐름이 나타나고 있다.

‘루빈→파인만’ 로드맵…AI 인프라 경쟁 심화

엔비디아는 차세대 슈퍼컴퓨터 ‘베라 루빈’과 이후 세대 ‘파인만’까지 로드맵을 공개했다.

루빈 시스템은 GPU와 LPU를 결합한 구조로 구성되며, 파인만은 새로운 CPU와 차세대 LPU를 포함한 확장된 구조로 발전할 예정이다.

AI 경쟁이 단일 칩이 아니라 전체 인프라 설계 경쟁으로 이동하고 있음을 보여주는 대목이다.

AI 에이전트 확산…보안까지 핵심 변수 부상

엔비디아는 AI 에이전트 플랫폼 ‘네모클로’도 함께 공개했다.

이 플랫폼은 작업 수행형 AI의 확산에 대응하면서도, 내부 정보 유출을 방지하는 보안 기능을 강화한 것이 특징이다.

AI가 실제 업무를 수행하는 단계로 확장되면서 속도뿐 아니라 통제와 안전성도 핵심 경쟁 요소로 자리 잡고 있다.

“AI는 기업 르네상스”…시장 1천500조 전망

젠슨 황은 “모든 기업이 AI 에이전트 전략을 필요로 하는 시대”라고 강조했다.

그는 AI 칩 시장 규모가 내년까지 최소 1조 달러에 이를 것으로 전망하며, 현재를 기업 혁신의 전환점으로 규정했다.

이번 발표는 AI 산업이 기술 경쟁을 넘어 인프라와 플랫폼, 생태계를 아우르는 구조로 재편되고 있음을 보여준다. 동시에 ‘추론 중심 AI’가 시장의 새로운 기준으로 자리 잡고 있음을 시사한다.