“엔트로픽 비싸네”…싼 AI모델 찾고 자체 개발하는 기업들

 

AI 서비스 비용 급등, 기업들의 대응 전략

인공지능 모델 사용료가 크게 오르면서 기업들이 비용 절감에 나서고 있습니다. 불과 몇 달 전까지만 해도 AI 활용을 적극 권장하던 기업들이 이제는 사용량을 제한하거나 저렴한 대안을 찾고 있습니다.

▸ 고급 모델에서 저렴한 모델로 전환

병원용 소프트웨어를 제공하는 앙상블 헬스 파트너스는 기존보다 20분의 1 가격인 모델로 바꿔 연간 약 10억 원 이상을 아낄 것으로 예상하고 있습니다. AI 기반 고객 상담 서비스 기업 핀은 1년 전부터 개방형 모델을 활용해 자체 AI를 개발하는 방식으로 전환했고, 이를 통해 매년 수백만 달러를 절약하게 되었다고 밝혔습니다.

▸ 사용량 제한과 추적 중단

메타와 우버 같은 대기업들은 직원들이 매달 사용할 수 있는 AI 용량에 제한을 두기 시작했습니다. 아마존은 한때 직원 80% 이상이 매주 AI를 사용해야 한다는 목표를 세우며 개발자들을 독려했지만, 비용 부담이 커지자 직원들의 AI 사용 추적 도구 개발을 중단했습니다.

▸ 중국 개방형 모델로 눈 돌리는 기업들

고급 모델 비용이 급등하자 무료로 제공되는 중국 기업의 개방형 모델 이용이 늘어나고 있습니다. 예전에는 미국 모델에 비해 성능이 떨어진다고 평가받았지만, 최근 중국 모델의 성능이 크게 개선되면서 딥시크 같은 중국 AI 기업 서비스를 선택하는 곳이 증가했습니다.

AI 모델 비교 서비스를 제공하는 오픈라우터에 따르면, 중국 기업이 주도하는 개방형 모델에서 처리된 데이터 비중이 올해 1월 둘째 주 34%에서 6월 둘째 주 65%로 급증했습니다.

소프트웨어 개발 회사 인플렉트라의 애덤 샌드먼은 중국 큐웬 모델로 전환하면서 이미지와 영상 처리 AI 비용을 99% 줄였다고 밝혔습니다. 그는 “똑같은 작업을 100분의 1 비용으로 훨씬 더 빠르게 할 수 있다면 고객에게 더 나은 가치를 제공할 수 있다”고 말했습니다.

▸ 비용 절감 스타트업에 투자 몰려

이런 분위기 속에서 데이터 처리 비용 절감을 돕는 스타트업들이 주목받고 있습니다. AI 메모리 효율화를 연구하는 엔그랩은 창업 8개월 만에 6억 달러의 기업 가치를 인정받고 9800만 달러 투자를 유치했습니다. 세쿼이아, 제너럴 캐널리스트, 클라이너 퍼킨스 등 유명 투자회사들이 참여했습니다.

이 회사는 자사 기술로 데이터를 최대 100배 적게 사용하면서도 최첨단 모델 이상의 성능을 낼 수 있다고 주장합니다.

방송 매체는 “새로운 AI 모델 가격이 기존 모델보다 더 높게 나타나면서 규모가 커지면 비용이 줄어든다는 논리에 의문이 제기되고 있다”고 설명했습니다.