Anthropic 퇴사로 AI 안전성 논쟁 촉발

Anthropic에서 한 연구원이 사임하면서 AI 안전과 최첨단 모델 개발의 위험성에 대한 논쟁이 다시 불붙었습니다. 연구원 Jacob Coxon은 Anthropic과 OpenAI가 위험할 수 있는 방식으로 앞서 나가고 있다고 믿기 때문에 회사를 떠났다고 말했습니다. 이 논의는 Anthropic의 정렬 책임자 Evan Hubinger가 고도화된 AI가 향후 10년 안에 모든 인간을 죽일 가능성이 10%를 넘는다고 믿는다고 말한 뒤 격화됐습니다. 그는 또한 현재의 모델이 주요 우려 사항은 아니지만, 자기개선과 초지능은 여전히 해결되지 않은 위험이라고 말했습니다. Coxon은 모델 능력 성장의 조율된 둔화를 촉구하며, 전 세계적 경쟁을 피하려면 일시적인 제한이 필요할 수 있다고 주장했습니다. 이 사건은 일부 AI 연구자들이 선도적인 연구소 내부에서 장기적인 안전 우려를 얼마나 심각하게 받아들이고 있는지를 보여주기 때문에 주목을 받고 있습니다.