AI 기업들, 안전성 테스트를 위해 백악관과 회동 예정

백악관은 OpenAI, Anthropic, Meta, Google을 초청해 출시 전에 최첨단 AI 시스템을 테스트하기 위한 새로운 자발적 프레임워크를 논의할 예정입니다. 이번 회의는 최근 OpenAI와 Anthropic에서 에이전트 관련 보안 침해 사건이 보도된 데 따른 것으로, 모델 안전성에 대한 관심이 다시 높아졌습니다. 보도에 따르면, 이 프레임워크는 기업들이 출시 최대 30일 전까지 최첨단 모델을 정부와 공유해 사이버보안 테스트를 진행할 수 있도록 할 것입니다. 논의에서는 최첨단 AI의 정의, 오픈 모델 포함 여부, 그리고 누가 테스트 과정을 수행할지 등이 다뤄질 것으로 예상됩니다. 이번 제안은 미국과 유럽의 규제 당국이 고도화된 AI 시스템에 대한 감시를 강화하는 가운데 나왔습니다. 지지자들은 이 접근 방식이 위험한 역량을 더 일찍 식별하는 데 도움이 될 수 있다고 말하지만, 이 프레임워크는 여전히 선택 사항이며 세부 내용은 비공개로 유지될 것입니다.