GPU만 올인하다간 놓친다?…AI 에이전트 시대 'CPU'가 다시 뜨는 이유

AI 에이전트는 검색·코딩·API 호출·파일 관리 등 GPU 밖에서 처리되는 범용 작업을 크게 늘린다. 언어 모델의 추론과 답변 생성은 GPU가 담당하지만, 검색 결과 처리·코드 실행·도구 호출·작업 간 조율에는 CPU가 폭넓게 사용되기 때문이다. Arm은 AI 에이전트 시대 데이터센터 CPU 코어 수요가 전력 1GW당 약 3,000만 개에서 1억 2,000만 개로 4배 늘어날 수 있다고 전망했다. 코트라도 CPU가 GPU를 보조하는 장치를 넘어 AI 에이전트의 실제 작업환경을 운영하는 핵심 구성요소로 다시 주목받고 있다고 분석했다.

아니다. 코트라 분석과 AMD의 설명에 따르면 이는 GPU 수요가 줄어든다는 의미가 아니라, 동일한 수의 GPU를 효율적으로 활용하기 위해 필요한 CPU 자원이 증가한다는 뜻이다. CPU·GPU 구성비가 기존 챗봇형 AI 환경의 약 1대 4~8에서 AI 에이전트 환경에서는 1대 1 수준으로 이동하고, 일부 작업에서는 CPU 비중이 GPU보다 높아질 수 있다는 전망이다. AI 데이터센터 전체의 반도체 수요 자체가 커지는 구조라는 점을 이해할 필요가 있다.

엔비디아는 베라 CPU와 루빈 GPU를 결합한 베라 루빈 플랫폼으로 대응했다. 회사는 자체 벤치마크에서 베라 CPU가 코드 컴파일·파이썬 도구 실행·코드 분석 등 에이전트 샌드박스 작업에서 주요 x86 CPU보다 최대 1.8배 높은 성능을 보였다고 주장한다. AMD는 에픽 CPU와 인스팅트 GPU를 결합하고, 퀄컴은 지난 6월 데이터센터용 드래곤플라이를 공개했다. Arm도 에이전트형 AI용 데이터센터 CPU를 선보였다. 각사가 CPU·GPU 구성비의 변화를 겨냥해 플랫폼 전략을 강화하고 있다.

코트라는 AI 인프라 수요 확대가 한국 기업에 HBM 이외의 새로운 기회를 제공할 수 있다고 분석했다. CPU 활용과 데이터 이동이 증가하면 서버용 DDR5, 기업용 SSD, CXL 기반 메모리 확장장치, 패키징 기판, 고속 데이터 전송 부품의 수요가 함께 늘어날 수 있다. 메모리 중심 포트폴리오에서 부품·기판·전송 부문으로 기회가 확장될 수 있다는 점에 주목할 만하다. 향후 AI 데이터센터 시장은 특정 프로세서의 성능보다 시스템을 작업 특성에 맞게 구성하는 역량이 더 중요해질 전망이다.