Anthropic, Accenture를 첫 번째 내장 평가자로 지정

Anthropic은 AI 개발 속도를 늦추고 안전 점검을 강화하기 위한 더 큰 노력의 일환으로 Accenture를 최초의 내장형 평가자로 선정했다고 밝혔다. 이번 조치는 독립 평가자들에게 AI 연구소에 직원과 유사한 접근 권한을 부여해 모델을 검토하고, 레드팀 테스트를 수행하며, 안전장치를 평가할 수 있도록 하자는 세 단계 접근법을 제시한 Anthropic의 CEO 다리오 아모데이의 제안에 따른 것이다. 회사들에 따르면 이번 작업에는 모델 평가, 정렬 평가, 안전 테스트가 포함될 예정이다. 이 파트너십은 비독점적이며, Anthropic은 앞으로 몇 주 안에 더 많은 평가자를 추가할 것으로 예상한다고 밝혔다. Anthropic과 Accenture는 각각 향후 5년간 최소 10억 달러를 투자할 것으로 예상하고 있다. 독립 평가를 위한 확립된 자금 조달 체계가 없기 때문에, Anthropic은 당분간 Accenture의 작업 비용을 직접 지불할 것이라고 밝혔다.