Anthropic CEO Dario Amodei, 독립적인 AI 감독을 추진하다

Anthropic의 CEO 다리오 아모데이는 외부 감시 기관이 최첨단 AI 개발을 감독하는 데 더 큰 역할을 맡아야 한다고 촉구하고 있다. 최근 서한에서 그는 독립 평가자들이 안전 관행을 검증하고, 사고를 검토하며, 완성된 모델과 훈련 과정을 모두 평가하는 데 도움을 줄 수 있다고 말했다. 아모데이는 AI 안전 테스트 연구소인 METR을 업계에 필요하다고 생각하는 제3자 감독의 한 사례로 언급했다. 기사에 따르면 METR과 그 지도부 일부는 효과적 이타주의 운동과 연관이 있으며, 이 운동은 더 넓은 AI 안전 커뮤니티의 일부에도 영향을 미쳐 왔다. 보도는 아모데이의 배경을 OpenAI, Google Brain, Baidu를 거쳐 나중의 Anthropic까지 추적하며, 그곳에서 안전은 회사 사명의 핵심 부분이 되었다. 또한 군사 및 감시 관련 AI 사용을 둘러싼 의견 차이를 포함해 Anthropic과 정부 또는 상업적 압력 사이의 과거 긴장도 부각한다. 아모데이는 AI가 여전히 사람들의 삶을 개선할 수 있지만, 기업들이 더 강력한 안전장치와 더 큰 책임성을 바탕으로 이를 구축할 때에만 가능하다고 말했다.