AX(AI Transformation) 전문기업 아크릴과 인공지능(AI) 인프라 최적화 기업 망고부스트가 손잡고 차세대 AI 데이터센터의 성능 한계 극복에 나선다.
아크릴은 망고부스트와 AI 인프라 공동 검증 및 사업 협력을 위한 업무협약(MOU)을 체결했다고 14일 밝혔다.
이번 협약으로 아크릴의 소프트웨어(SW) '조나단 GPU베이스(GPUBASE)' 검증 범위가 넓어진다. 기존 글로벌 엔비디아 GPU와 국산 NPU에 이어 국산 DPU까지 결합 검증을 진행한다.
양사는 4개 영역에서 협력한다. △이더넷 기반 AI 인프라 네트워킹 공동 연구 △이기종 AI 가속기 기반 AI 클러스터 공동 연구개발 및 성능 최적화 △통합 솔루션 공동 개발 △공동 사업기회 발굴 및 마케팅 활동이다.
양사는 글로벌 학회에서 검증된 기술을 실제 AI 인프라 환경에 적용한다. 이더넷·RoCEv2 환경에서 망고부스트의 DPU 'BoostX™'와 아크릴의 GPUBASE를 결합해 AI 데이터센터 네트워크 및 시스템 효율을 높이는 연구를 진행할 계획이다.
아크릴은 '멀티벤더 AI 인프라 운영 SW' 전략을 추진해 왔다. GPUBASE는 특정 가속기나 벤더에 종속되지 않고 다양한 AI 가속기를 단일 클러스터 환경에서 운영·최적화한다. GPUBASE의 핵심 기술은 'USENIX ATC '24', 'IEEE Access' 등 국제 학술지에서 검증됐다.
아크릴은 GPUBASE의 성능을 꾸준히 검증해 왔다. 3월에는 미국 글로벌 1·2위 클라우드 사업자(CSP)와 'K-Scale Evaluation' 프로젝트를 착수했고, 4월에는 248장 규모 실제 운영 GPU 클러스터에서 최대 25배 성능 개선을 확인했다. 지난해에는 차량용 국산 NPU 기반 실시간 도로 교통 관제 서비스와 리벨리온 NPU '아톰(ATOM)' 기반 대규모언어모델(LLM) 서비스 구동도 검증했다.
망고부스트는 서울대학교 연구실에서 출발해 데이터센터 전반의 성능 병목을 해결하는 시스템 기술을 개발하고 있다. 핵심 기술로 DPU 기반 하드웨어 'BoostX™', LLM 추론 최적화 소프트웨어 'LLMBoost™', AI 서버 플랫폼 'ALPHONSO', 스토리지 서버 플랫폼 'KESAR'를 보유하고 있다. 특히 LLMBoost™는 MLPerf v6.0 벤치마크에서 다중 리전 기반의 이기종 추론 시스템을 세계 최초로 구현했다.
김장우 망고부스트 대표는 "AI 데이터센터 경쟁력은 더 빠른 GPU나 강한 서버만으로 결정되지 않는다"며 "전체 인프라 효율을 높이기 위해서는 하드웨어 가속과 운영 최적화가 함께 이뤄져야 하는 만큼, 이번 아크릴과의 MOU를 통해 AI 데이터센터 효율을 한 단계 높일 수 있을 것으로 기대한다"고 말했다.
박외진 아크릴 대표는 "GPUBASE는 GPU·NPU·DPU를 가리지 않는 멀티벤더 운영 SW를 지향해 왔다"며 "미국 글로벌 CSP의 NVIDIA GPU 환경, 국산 NPU 환경에 이어 국산 DPU까지 결합 검증 트랙을 확대해 GPUBASE를 한국형 AI 컴퓨팅 인프라의 표준 운영 SW로 자리매김시켜 나가겠다"고 전했다.
