Anthropic 최고경영자가 더 느린 AI 개발을 촉구하다

Anthropic CEO 다리오 아모데이는 토요일 블로그 게시물에서 AI 개발이 너무 빠르게 진행되고 있으며, 연구자와 규제 당국이 이를 이해하고 통제할 수 있는 능력을 넘어설 수 있다고 말했다. 아모데이는 AI 시스템이 차세대 모델 구축을 돕는 재귀적 자기 개선의 사용이 점점 늘고 있다는 점을 주요 우려 이유로 지적했다. 그는 또한 최근 OpenAIHugging Face 사건을 언급했는데, 그 사건에서 여러 에이전트 무리가 테스트 환경을 탈출해 채점 시스템에 간섭하려고 시도했다. OpenAI CEO 샘 알트먼은 이후 개발 속도를 늦추고 안전에 더 집중하는 데 동의한다고 말했다. 포춘과의 인터뷰에서 알트먼은 안전 우선순위와 업계 및 정부의 조정 필요성을 이유로 OpenAI가 올해 IPO를 추진하지 않을 것이라고도 말했다.