메타가 인공지능 인프라 지출 증가에 따른 비용 압박을 해결하기 위해 내부적으로 사용할 툴을 개발중이다.

기술 전문 매체 더 인포메이션에 따르면 메타의 사내 AI 인큐베이터인 AAI 랩스는 21일 '스위치보드'라는 AI 모델 라우팅 도구를 개발하고 있다. 

스위치보드는 오픈라우터의 오토 라우터 제품과 유사한 로직으로 작동한다. 작업 난이도를 점수화하여 간단한 요청은 더 작고 저렴한 모델로 배정함으로써 전체 추론 비용을 줄이는 방식이다.

현재 메타 내부에서는 간단한 프로그래밍 요청을 포함하여 모든 요청에 대해 최고급 모델의 가격을 지불하는 비효율이 발생하고 있다. 

내부 문서에서는 "추론 비용을 회사 내에서 에이전트를 더 광범위하게 배포하는 데 있어 주요 장애물"이라며 "비용은 에이전트를 대규모로 운영하는 능력을 제한하는 핵심 요소"라고 지적했다. 

이에 따라 메타는 최근 AI 토큰 사용량을 제한하고 지출을 추적하는 내부 플랫폼 구축을 공지했다. 

스위치보드는 아직 초기 단계에 있으며 최종 구현 여부는 불확실하다. 

메타 팀은 비용 절감을 위해 이 도구를 내부적으로 배포하는 방안과 AI 기반 에이전트를 대규모로 운영하는 외부 조직에 공개하는 방안을 함께 검토하고 있다. 

이는 단순한 내부 비용 절감 조치를 넘어 메타가 AI 도구 시장에서 새로운 수익원을 창출하려는 시도로 해석된다.

스위치보드가 속한 AAI 랩스는 올해 3월 공식 설립된 조직으로 직원들이 AI 제품 및 서비스 아이디어를 제출해 소규모 팀에서 개발을 진행하는 구조다. 

올해 7월에는 현재 소비자 제품과 개발자 도구 및 내부 인프라 분야에서 약 200개의 프로젝트를 승인했다. 이는 소규모 팀이 AI를 사용해 제품을 신속하게 개발하도록 지원하는 마크 저커버그 CEO의 전략적 비전을 반영한다. 

저커버그는 지난 4월 애널리스트들에게 AI 에이전트를 통해 "소규모 팀이 매우 빠른 속도로 발전할 수 있다"고 밝힌 바 있다. 

현재 모델 라우팅 트랙은 업계에서 큰 관심을 받고 있습니다. 

앞서 오픈라우터는 대형 기술 기업과 잠재적 인수를 논의 중이며 기업 가치가 수십억 달러까지 상승할 수 있는 것으로 알려졌다. 

모델 라우팅 개념은 오픈AI의 GPT-5에 내장된 라우팅 기능 덕분에 널리 알려졌으며 이후 데이터브릭스와 팔란티어 같은 회사들도 자체 도구를 개발했다. 

메타의 이번 움직임은 막대한 AI 투자를 새로운 수익원으로 전환하려는 궁극적인 목표와 맞닿아있다. 

메타는 올해 인공지능 인프라 등에 1450억 달러를 지출할 것으로 예상되며 엔지니어링 팀을 재편중이다. AAI 랩스는 스위치보드 외에도 애플 카플레이(Apple CarPlay)와 안드로이드 오토(Android Auto)를 통해 실행되는 운전자용 AI 기반 내비게이션 앱 등 다양한 프로젝트를 추진하며 광고 외 추가 수익원을 모색하고 있다.