AI 컴퓨팅 분야의 세계적인 선도기업 엔비디아(CEO 젠슨 황)가 마이크로소프트와 함께 인공지능(AI) 클라우드 컴퓨팅을 구동하는 하이퍼스케일 GPU 가속기인 HGX-1을 공개했다.
새로운 HGX-1 하이퍼스케일 GPU 가속기는 마이크로소프트의 프로젝트 올림푸스(Project Olympus)를 따라 오픈소스 디자인으로 공개되었으며, 하이퍼스케일 데이터센터에 빠르고 유연한 AI 경로를 제공한다.
20여 년 전에 도입된 ATX(Advanced Technology eXtended)가 PC 마더보드에 규격을 제시하였듯이 HGX-1은 클라우드 기반 AI 워크로드에 신속하고 효율적으로 채택 가능한 업계 표준을 수립함으로써 급증하는 시장 수요를 충족시킬 전망이다.
HGX-1 아키텍처는 자율 주행, 개인 헬스케어, 슈퍼 휴먼 음성인식, 데이터 및 비디오 애널리틱스, 분자 시뮬레이션 등 다양한 분야에서 폭발적으로 증가하는 클라우드 기반 AI 컴퓨팅 수요를 충족할 수 있도록 설계됐다.
엔비디아의 공동 창립자이자 최고경영자(CEO)인 젠슨 황(Jen-Hsun Huang)은 “인공지능은 새로운 아키텍처를 요구하는 새로운 컴퓨팅 모델”이라며, “ATX 표준이 오늘날 PC 대중화를 가져왔듯이, HGX-1 하이퍼스케일 GPU 가속기는 인공지능 클라우드 컴퓨팅 확산에 기여할 것이다. HGX-1는 클라우드 서비스 제공자가 손쉽게 엔비디아 GPU를 채택하고, 급증하는 AI 컴퓨팅 수요에 대응할 수 있도록 만들 것이다”라고 밝혔다.
마이크로소프트의 애저 하드웨어 인프라스트럭처(Azure Hardware Infrastructure) 수석 엔지니어 겸 총괄 책임자인 쿠사그라 바이드(Kushagra Vaid)는 관련 블로그를 통해 “HGX-1 AI 가속기는 급성장하는 머신 러닝 워크로드의 까다로운 요구사항을 충족하는 뛰어난 성능 확장성을 제공하며, 가속기의 고유한 디자인을 통해 전 세계 기존 데이터센터에 손쉬운 적용도 가능하다”고 말했다.
HGX-1 아키텍처는 현재 AI 투자와 AI 기반의 접근을 추진하고 있는 전 세계 수천 개의 대기업 및 스타트업들에게 클라우드 기반의 역대급 설정성(configurability) 및 성능을 제공한다.
HGX-1 아키텍처는 섀시 당 8개의 엔비디아® 테슬라(Tesla®) P100 GPU로 구동되며, 엔비디아 NVLink 인터커넥트 기술과 PCIe 표준에 기반한 혁신적인 스위칭 디자인을 채택해 CPU를 다수의 GPU에 동적으로 연결시킬 수 있다. 이는 HGX-1 인프라스트럭처에 표준화된 클라우드 서비스 제공자가 고객에게 폭넓은 CPU 및 GPU 머신 인스턴스 설정을 제공할 수 있도록 지원한다.
클라우드 워크로드는 그 어느 때보다 다양하고 복잡해지고 있다. AI 훈련 및 추론, HPC 워크로드의 구동은 다양한 수의 GPU와 연결된 CPU를 통해 다양한 시스템 설정 상에서 최적화될 수 있다. 고도로 모듈화된 디자인의 HGX-1은 워크로드에 상관없이 최적의 성능을 구현한다. HGX-1은 CPU 기반 레거시 서버 대비 최대 100배 더 빠른 딥 러닝 성능을 구현하며, AI 훈련 및 추론 비용은 각각 5분의 1, 10분의 1 수준으로 경감된다.
전세계 데이터센터에서 작동 가능한 유연성을 갖춘 HGX-1은 기존 하이퍼스케일 데이터센터에 신속하고 간단한 AI 구현 경로를 제공한다.
하이퍼스케일 표준화를 위한 업계 협업
엔비디아, 마이크로소프트, 인그라시스(Ingrasys; 폭스콘(Foxconn)의 자회사)는 HGX-1 플랫폼의 아키텍처 개발 및 디자인을 위해 협업을 진행했다. 이들 기업들은 마이크로소프트의 프로젝트 올림푸스의 일환으로 HGX-1 플랫폼을 공유한다. 프로젝트 올림푸스가 참여하는 오픈 컴퓨트 프로젝트(Open Compute Project)는 오픈소스의 장점을 하드웨어에 적용하고 데이터센터 내‧외부는 물론 주변 환경 등에서 혁신의 속도를 가속화하려는 취지로 설립된 컨소시엄이다.
레퍼런스 디자인을 오픈 컴퓨트 프로젝트 커뮤니티와 공유함으로써, 기업들은 손쉽게 동일한 디자인을 구매하고 자사 데이터센터에 적용할 수 있다.
엔비디아의 오픈 컴퓨트 프로젝트 참여
엔비디아는 데이터센터에 AI와 혁신을 추진하는 오픈 컴퓨트 프로젝트에 참여하고 있다. 엔비디아는 마이크로소프트, 인그라시스 등 여러 프로젝트 참여자와 지속적인 협력을 통해, 클라우드 서비스 제공자 및 데이터센터 고객들을 위한 AI 구현 컴퓨팅 플랫폼을 제공해나갈 계획이다.
