전문가들, Anthropic과 OpenAI를 위한 독립적인 AI 안전 평가자 필요성 제기
AI 안전 전문가들은 기업들이 독립적인 시험자들에게 실제 접근 권한을 부여할 것을 촉구한다 제3자 검토에는 보호, 투명성, 그리고 더 적은 기업 통제가 필요하다
100명 이상의 AI 전문가와 평가자들이 Anthropic과 OpenAI를 포함한 최첨단 AI 기업들이 제3자 테스트 담당자에게 모델 안전성을 평가하는 데 필요한 접근 권한과 보호 조치를 제공할 것을 촉구하는 공개 서한에 서명했습니다.
금요일에 공개되어 CNBC에 단독 공유된 이 서한은 독립 평가자들이 AI 시스템, 학습 관행, 배포 결정, 그리고 주요 사고를 검토할 때 과학적 객관성, 투명성, 그리고 간섭으로부터의 자유를 가져야 한다고 밝힙니다.
이 단체는 고도화된 AI 모델이 더욱 강력해질수록, 안전 및 보안 위험에 대한 정보의 유일한 출처가 기업이어서는 안 된다고 주장합니다. 서명자에는 Geoffrey Hinton과 Stanford, Johns Hopkins, 그리고 비영리단체 METR 등의 기관 연구자들이 포함됩니다.
이 서한은 또한 평가자 독립성, 내부 시스템에 대한 접근, 조사 결과의 투명성, 그리고 평가 대상 기업의 보복에 대한 보호 조치에 관한 더 명확한 기준을 요구합니다.