삼성SDS가 국내 최초로 자사 클라우드 플랫폼인 ‘SCP(삼성 클라우드 플랫폼)’를 통해 엔비디아의 최신 GPU ‘B300(Blackwell Ultra)’ 기반의 ‘GPU 구독형 서비스(GPUaaS)’를 출시했다고 23일 밝혔다.

지난 2021년 A100, 2023년 H100에 이어 2026년 B300까지 선제적으로 도입하며, 국내 기업용 AI 인프라 생태계의 리더 자리를 재차 공고히 하는 모습이다.

이번 B300 GPUaaS 출시는 기업들이 AI 모델 개발 단계를 지나 실제 서비스에 적용하는 ‘추론’ 단계로 진입하며 폭증하는 고성능 컴퓨팅 수요에 대응하기 위한 조치다. 

B300 GPU는 12단 HBM3E를 탑재해 GPU당 288GB의 압도적인 메모리 용량을 제공한다. 

이는 기존 주력 모델인 H100 대비 메모리 용량은 3.6배, 데이터 대역폭은 2.4배 향상된 수치로, 대규모 언어 모델(LLM) 구동 시 발생하는 데이터 전송 지연 문제를 획기적으로 개선했다.

SCP B300 GPUaaS를 이용하는 기업들은 고용량 메모리를 바탕으로 AI 에이전트, 실시간 이미지 및 영상 생성, 고도화된 코드 분석 등 고성능이 필수적인 서비스를 지연 시간 없이 안정적으로 제공할 수 있다. 

특히 직접 장비를 구매하는 초기 투자 리스크 없이 사용한 만큼만 비용을 지불하는 구독형 모델을 통해 경영 효율성을 극대화할 수 있다는 점이 강점이다. 또한 삼성SDS만의 강력한 보안 역량이 결합돼 민감한 기업 데이터도 안심하고 처리할 수 있는 환경을 구축했다.

삼성SDS는 이번 서비스 출시를 시작으로 올 3분기에는 사용한 토큰량만큼만 비용을 내는 ‘서버리스(Serverless) 추론 서비스’와 자동 분산 학습이 가능한 ‘AI 학습 서비스’를 연이어 선보일 계획이다. 

이호준 삼성SDS 클라우드서비스사업부장(부사장)은 “대기업부터 스타트업, 공공기관에 이르기까지 AI를 업무에 실질적으로 적용하려는 모든 고객의 AX(AI 전환)를 적극 지원하겠다”고 강조했다.

한편 삼성SDS는 정부의 초거대 AI 공통기반 사업을 수행하는 등 민관협력형 클라우드 사업자로서의 보폭도 넓혀가고 있다.