AI 에이전트, 챗봇보다 전력 소모 최대 137배 많아

KAIST 연구팀이 AI 에이전트의 전력 사용량과 응답 시간을 분석한 결과, 에이전트형 인공지능이 기존 챗봇보다 훨씬 많은 전기를 쓰는 것으로 나타났습니다. 연구에 따르면 AI 에이전트는 질문 하나를 처리하는 동안 평균적으로 더 많은 추론과 도구 호출을 반복해, 기존 단계별 추론 방식보다 LLM 호출 횟수가 9.2배 많았습니다. 그 결과 응답 시간은 최대 154배 길어졌고, GPU가 작업을 기다리며 유휴 상태로 남는 시간도 크게 늘었습니다. 특히 700억 개 매개변수를 가진 모델을 기준으로 할 때, AI 에이전트는 질문 한 건당 평균 348와트시(Wh)의 전기를 사용해 챗봇보다 137배 높은 수준으로 집계됐습니다. 연구팀은 이런 결과가 데이터센터의 전력 수요와 운영 비용에 중요한 영향을 줄 수 있다고 설명했습니다.