엔비디아, AI 모델 라우팅 병목 뚫었다…‘선형 연산’으로 KV 캐시 전송 성공

주요 내용 요약

  • AI인프라 전문기업 디에스앤지가 네이버클라우드와 엔비디아의 차세대 고성능 GPU인 B300 기반 AI GPU 서버 공급 계약을 체결했다.
  • 이번 계약을 통해 디에스앤지는 네이버클라우드에 엔비디아 B300 GPU 3112장이 탑재되는 GPU 서버 총 389대를 공급한다. 정부가 추진하는 대규모 AI 컴퓨팅 인프라 확충 사업과 연계된 공급으로, 국내 AI 연구개발 및 산업계의 급증하는 고성능 컴퓨팅 수요에 대응하기 위한 대규모 AI 인프라 구축 일환이다.
  • 앞서 과학기술정보통신부는 ‘AI 고속도로 구축’ 사업을 통해 총 2조800억 원 규모의 첨단 GPU 인프라를 확보한다고 밝혔다. 네이버클라우드는 삼성SDS, 엘리스그룹과 함께 해당 사업의 최종 수행기관으로 선정돼 엔비디아 B300 GPU 3112장과 차세대 베라루빈(Vera Rubin) GPU 1008장 등 총 4120장 규모의 첨단 GPU 인프라를 구축할 예정이다.

엔비디아 AI 모델 관련 이미지


사안의 배경과 현재 상황

AI인프라 전문기업 디에스앤지가 네이버클라우드와 엔비디아의 차세대 고성능 GPU인 B300 기반 AI GPU 서버 공급 계약을 체결했다.

이번 계약을 통해 디에스앤지는 네이버클라우드에 엔비디아 B300 GPU 3112장이 탑재되는 GPU 서버 총 389대를 공급한다. 정부가 추진하는 대규모 AI 컴퓨팅 인프라 확충 사업과 연계된 공급으로, 국내 AI 연구개발 및 산업계의 급증하는 고성능 컴퓨팅 수요에 대응하기 위한 대규모 AI 인프라 구축 일환이다.

디에스앤지는 네이버클라우드의 B300 GPU 서버 최종 공급사로 선정됐으며, 이번 계약에 따라 네이버클라우드가 도입하는 B300 GPU 3112장 전량에 해당하는 GPU 서버 389대를 공급한다. 이를 통해 네이버클라우드의 대규모 AI 컴퓨팅 인프라 구축을 지원할 예정이다.


주요 진행 경과와 사실관계

베라루빈의 경우 제품 출시 일정을 고려해 내년 상반기 내 순차적으로 서비스를 개시할 예정이다.

엔비디아 B300은 대규모 AI 모델 학습과 추론 등 고성능 연산이 필요한 AI 워크로드를 지원하는 차세대 GPU다. AI 모델 고도화와 생성형 AI 서비스 확산에 따라 고성능 GPU에 대한 수요가 빠르게 증가하면서, 이를 안정적으로 구축·운영하기 위한 데이터센터 인프라의 중요성도 함께 높아지고 있다.

특히 AI 인프라는 단순히 GPU 확보를 넘어 고밀도 GPU 서버를 안정적으로 운영할 수 있는 전력·냉각 환경과 네트워크, 스토리지 등 데이터센터 인프라 전반의 유기적인 설계와 구축 역량이 중요하다.

디에스앤지는 고성능 GPU 서버를 중심으로 스토리지, 네트워크 및 AI 소프트웨어 등 AI 데이터센터 구축에 필요한 인프라를 통합해 고객 환경에 최적화된 AI 인프라 솔루션을 제공하고 있다. 네이버클라우드 공급을 계기로 대규모 GPU 서버 구축 및 공급 역량을 한층 강화하고, 국내 주요 클라우드 사업자와의 협력을 확대해 AI 데이터센터 및 AI 인프라 시장에서 사업 영역을 지속적으로 넓혀갈 방침이다.

엔비디아 AI 모델 관련 참고 이미지


주요 입장 및 핵심 내용

“앞서 과학기술정보통신부는 ‘AI 고속도로 구축’ 사업을 통해 총 2조800억 원 규모의 첨단 GPU 인프라를 확보한다고 밝혔다. 네이버클라우드는 삼성SDS, 엘리스그룹과 함께 해당 사업의 최종 수행기관으로 선정돼 엔비디아 B300 GPU 3112장과 차세대 베라루빈(Vera Rubin) GPU 1008장 등 총 4120장 규모의 첨단 GPU 인프라를 구축할 예정이다.”

“서영민 디에스앤지 전무는 “이번 네이버클라우드 B300 GPU 서버 공급은 국내 AI 컴퓨팅 인프라 확대를 지원하는 의미 있는 프로젝트”라며 “대규모 고성능 GPU 서버 공급 및 구축 역량을 바탕으로 네이버클라우드의 AI 인프라 확충을 안정적으로 지원하고, 급증하는 국내 AI 컴퓨팅 수요에 적극 대응해 나가겠다”고 말했다. 이어 “앞으로도 차세대 GPU 서버를 비롯해 네트워크, 스토리지, 수랭식 설비 등 AI 데이터센터 구축에 필요한 인프라 전반의 역량을 지속적으로 강화해 국내 AI 산업 생태계 발전에 기여하겠다”고 밝혔다.”

“배충식 한국과학기술원(KAIST) 총장은 25일 한국피지컬AI협회와 과학기술정보통신부가 주관한 국회 피지컬 AI 세미나에서 “피지컬 AI는 지금부터 5년이 중요하다”며 “예측이 쉽지 않은 모든 물리 세계에 에이전트 AI 적용이 이뤄져야 하기 때문에 아직 주인이 없는 상태에서 5년 안에 이를 빨리 장악하는 나라가 기술 패권을 독식하게 될 것”이라고 말했다.”

한편 디에스앤지는 차세대 GPU 기반 서버 공급을 비롯해 AI 데이터센터 구축에 필요한 다양한 인프라 솔루션을 제공하며 국내외 AI 컴퓨팅 시장 확대에 적극 대응할 계획이다.

정부가 글로벌 1강을 목표로 ‘피지컬 AI’ 분야에 대규모 투자를 예고한 가운데, 향후 5년이 주도권 확보를 위한 승부처가 될 것이라는 진단이 나왔다.

배 총장은 한국이 피지컬 AI 1강을 달성하기 위해 AI 모델부터 제조업, 시뮬레이션 도구, 데이터 등 AI 풀스택 기술을 확보해야 한다고 강조했다.

또 중국의 빠른 기술 개발 속도를 따라잡기 위해 국회에서 네거티브 규제 방식으로 피지컬 AI 분야를 지원해야 한다고 제언했다.

배 총장은 △피지컬 AI 파운드리 등 국가 차원의 개방형 인프라를 구축하는 ‘오픈업’ △가상세계 시뮬레이션 모델을 실제 세계에서 동기화해 실증하는 ‘링크업’ △규제를 풀고 인재를 양성해 창업 생태계를 조성하는 ‘부스터’ 등을 3대 전략으로 제시했다.


향후 전망 및 관전 포인트

엔비디아 AI 모델 전망 이미지

AI(인공지능) 로보틱스 기업 엑스와이지(XYZ)가 일상형 로봇 ‘듀스(DEUX)’에 적용되는 자체 개발 3지 로봇핸드의 설계 철학과 기술 사양을 공개했다고 25일 밝혔다.

듀스는 카페와 리테일, 오피스 등 실제 생활공간에서 제품을 집고 옮기거나 포장을 돕고 주변 물건을 정리하는 작업을 수행하도록 설계됐다. 엑스와이지는 이들 작업에 필요한 조작 방식과 움직임을 분석해 복잡도를 낮추면서도 다양한 물체를 다룰 수 있는 핸드 구조를 개발했다.

사람의 손은 다섯 개의 손가락과 20개가 넘는 자유도(DoF)를 가졌다. 최근 개발되는 휴머노이드 로봇은 인간과 유사한 손의 움직임을 구현하기 위해 다수의 관절과 액추에이터를 적용한다. 엑스와이지는 사람의 손보단 일상 작업에 필요한 구조가 무엇인지에 초점을 맞췄다.

듀스 핸드는 3개의 손가락과 7자유도(7-DoF), 7개의 액추에이터로 구성됐다. 두 개의 독립 구동 손가락이 주요 조작을 담당하고 나머지 하나의 통합형 손가락 모듈이 물체를 지지해 파지를 돕는다.

정리하며

‘엔비디아 AI 모델’ 이슈와 관련하여 앞으로 새롭게 확인되는 공식 소식과 진행 상황도 신속하게 전해드리겠습니다.

Leave a Comment