모델 라우팅은 기업의 AI 비용을 줄일 수 있습니다

기업들은 가장 비싼 모델을 기본으로 사용하는 대신, 각 작업에 가장 적합한 모델을 매칭해 AI 지출을 통제하기 위해 모델 라우팅을 점점 더 많이 사용하고 있습니다. 이러한 변화는 많은 기업이 AI 비용 청구액이 예상보다 더 빠르게 증가하는 것을 목격하면서 나타났습니다. 더 저렴한 모델은 일상적인 작업을 처리할 수 있고, 프런티어 모델은 더 복잡한 작업을 위해 남겨집니다. 이러한 추세는 프리미엄 가격에 대한 지속적인 수요에 사업 전망이 달려 있는 OpenAI와 Anthropic에 압박을 가할 수 있습니다. 분석가들과 경영진은 시장이 최고급 모델을 무조건 사용하는 방향보다는 더 효율적인 활용으로 이동할 수 있다고 말합니다.