AI 연구원이 Anthropic을 그만두며 안전 위험을 경고하다

2026. 9. 10.

Anthropic 연구원이 서두른 개발을 경고하면서 AI 안전 우려가 커지고 있습니다 지도자들이 왜 더 강력한 규칙, 더 나은 정렬, 그리고 더 느린 전진 경로를 원하는지 알아보세요

인공지능 연구자 한 명이 Anthropic에서 사임하며, 고도화된 AI 시스템을 너무 빠르게 추진하고 있다며 Anthropic과 OpenAI를 모두 비판했다. 연구자인 Jacob Coxon은 X에 올린 글에서, 자신이 회사들이 이 기술을 책임감 있게 다루고 있지 않다고 생각해 떠났다고 말했다. Coxon은 AI를 개발하는 일부 사람들은 이러한 시스템이 앞으로 10년 안에 극심한 위험을 초래할 수 있다고 본다고 말했다. 그의 게시물은 온라인에서 큰 주목을 받았고, 고도화된 AI를 안전하게 개발하고 효과적으로 통제할 수 있는지에 대한 실리콘밸리 내 지속적인 논쟁을 더했다. 이후 Anthropic의 정렬 책임자 Evan Hubinger도 일부 우려에 동조하며, 업계가 아직 초지능 시스템의 정렬 문제를 해결할 분명한 계획을 갖고 있지 않다고 말했다. 이 기사에서는 또한 입법자들과 연구자들이 개발 속도를 늦추고, 안전성을 개선하며, 고도화된 AI를 위한 규칙을 만드는 방법을 점점 더 많이 논의하고 있다고 언급한다.