주요 내용 요약
- 글로벌 시장조사기관 가트너가 엔터프라이즈 AI 서버 CPU 시장에서 AMD를 경쟁사들이 넘어서야 할 가장 강력한 선두주자로 평가했다.
- 인공지능(AI) 기술의 중심축이 단순 추론에서 연속적인 오케스트레이션을 요구하는 ‘에이전틱 AI(Agentic AI)’로 이동함에 따라, AMD 에픽(EPYC) 프로세서의 높은 코어 밀도와 높은 I/O 대역폭이 데이터센터의 핵심 제어 장치로 부상했다는 설명이다.
- 가트너는 최근 발간한 ‘AI 벤더 레이스: 기업용 AI 서버 CPU 시장의 주도자 AMD(AI Vendor Race: AMD Is the Company to Beat for Enterprise AI Server CPUs)’ 보고서를 통해 AMD의 기술적 우위와 시장 경쟁 구도를 상세히 조명했다.
사안의 배경과 현재 상황
글로벌 시장조사기관 가트너가 엔터프라이즈 AI 서버 CPU 시장에서 AMD를 경쟁사들이 넘어서야 할 가장 강력한 선두주자로 평가했다.
인공지능(AI) 기술의 중심축이 단순 추론에서 연속적인 오케스트레이션을 요구하는 ‘에이전틱 AI(Agentic AI)’로 이동함에 따라, AMD 에픽(EPYC) 프로세서의 높은 코어 밀도와 높은 I/O 대역폭이 데이터센터의 핵심 제어 장치로 부상했다는 설명이다.
가트너는 최근 발간한 ‘AI 벤더 레이스: 기업용 AI 서버 CPU 시장의 주도자 AMD(AI Vendor Race: AMD Is the Company to Beat for Enterprise AI Server CPUs)’ 보고서를 통해 AMD의 기술적 우위와 시장 경쟁 구도를 상세히 조명했다.
주요 진행 경과와 사실관계
워렌 펭(Warren Peng)과 가우라브 구프타(Gaurav Gupta) 가트너 애널리스트는 에이전틱 AI의 급부상이 데이터센터 내 CPU의 역할을 근본적으로 재편하고 있다고 지적했다.
가트너 분석에 따르면, 5세대 에픽 투린 프로세서는 소켓당 최대 192개의 코어와 12개의 DDR5 메모리 채널, 2소켓 서버 기준 최대 160개의 PCIe Gen 5 I/O 레인을 제공한다. 이러한 높은 확장성은 멀티벤더 가속기 및 고성능 인터커넥트 패브릭을 자유롭게 연동할 수 있는 유연성을 구현한다.
데이터센터의 한정된 전력 및 냉각 한계 상황에서도 AMD의 고밀도 코어 기반 서버 통합 경제학이 작동하고 있다.
보안 면에서도 성숙한 ‘SEV-SNP(Secure Encrypted Virtualization with Secure Nested Paging)’ 하드웨어 기밀 컴퓨팅 기술을 바탕으로 기업의 독자적인 AI 모델과 데이터를 보호한다고 덧붙였다.
주요 입장 및 핵심 내용
“◆ 가트너 “에이전틱 AI가 CPU-GPU 균형 재편…AMD ‘투린’이 시장 기준 설정””
“가트너는 “기업용 AI가 지속적인 오케스트레이션을 요구하는 동적 에이전틱 시스템으로 전환되면서 CPU 성능이 전체 클러스터의 제어 성능을 결정짓는 핵심 요인이 되고 있다”며 “AMD의 5세대 에픽 ‘투린(Turin)’ 플랫폼은 높은 병렬 처리 능력과 지속적인 I/O 대역폭을 제공해 GPU가 유휴 상태에 빠지지 않고 최적의 가동 효율을 유지하도록 보장한다”고 설명했다.”
“가트너는 “AMD의 높은 코어 밀도는 기업들이 기존 레거시 인프라를 대거 통합할 수 있게 해주며, 이를 통해 절감된 전력과 공간을 고밀도 액체 냉각 AI GPU 클러스터 배치를 위한 전력 헤드룸으로 전환할 수 있게 돕는다”고 분석했다.”
◆ 인텔·엔비디아·ARM의 도전…’폐쇄형 수직통합 및 락인 전략’ 경계해야
가트너는 AMD가 선두 자리를 유지하기 위해 경쟁사들의 폐쇄형 수직통합 및 생태계 락인(Lock-in) 전략을 지속적으로 경계해야 한다고 조언했다.
Competition in the AI semiconductor market is expanding beyond high bandwidth memory (HBM) to server low-power dynamic random-access memory (DRAM) modules known as Socamm2.
The race among the three major memory makers — Samsung Electronics, SK hynix and Micron — has now entered a new stage centered on 256GB, an ultrahigh-capacity benchmark.
Socamm is a modular low-power DRAM memory designed for servers. Each module contains four low-power DRAM chips. Compared to conventional server memory, Socamm offers more data transmission channels, which allows for higher speed and better power efficiency.
향후 전망 및 관전 포인트
Unlike conventional server memory, Socamm modules can be detached and replaced. That feature is drawing attention from data center operators.
Instead of replacing an entire server when needing to switch or upgrade memory, operators can improve performance simply by swapping out memory modules.
The U.S. chipmaker Micron shipped the world’s first customer samples of a 256GB Socamm2 module last Tuesday, according to the company. The capacity is about 33 percent larger than the 192GB Socamm2 products that Samsung Electronics and SK hynix have been positioning as their flagship offerings.
Higher capacity allows a larger volume of data needed for AI computing to be processed at once. That creates advantages in large-scale model inference and other complex workloads.
정리하며
‘AMD Server CPU’ 이슈와 관련하여 앞으로 새롭게 확인되는 공식 소식과 진행 상황도 신속하게 전해드리겠습니다.