데미스 하사비스, 프런티어 모델을 위한 미국 AI 감시 기구 제안

구글 딥마인드 CEO 데미스 하사비스는 공개되기 전에 첨단 AI 모델을 안전성 테스트하는 미국 주도 감독 기구를 제안했습니다. 그의 계획은 최전선 시스템에 초점을 맞추며, 기만, 사이버 남용, 생물무기 관련 오남용과 같은 위험을 검토하기 위한 더 명확한 규칙을 마련하는 것을 목표로 합니다. 제안에 따르면, 가장 뛰어난 모델을 개발하는 기업들은 출시 약 30일 전에 자발적으로 해당 모델을 심사를 위해 제출하게 됩니다. 하사비스는 AI 역량이 변화함에 따라 이 접근 방식이 유연하게 조정될 수 있어야 한다고 말했으며, 규제 당국이 필요하다고 판단할 경우 최전선 연구소들 사이의 속도 조절을 조정할 수도 있다고 제안했습니다. 이 구상은 정부와 기업들이 AI를 어떻게 규율해야 하는지에 대해 계속 논의하는 가운데 나왔습니다. 하사비스는 이 기구가 올해 안에 운영되기를 원하며, 오픈소스 시스템이 향후 18개월 안에 더 위험한 능력에 도달할 수 있다고 주장합니다.