Anthropic 연구원, AI 안전 위험이 심각할 수 있다고 경고

앤스로픽 연구원은 향후 10년 안에 AI가 모든 인간을 죽일 가능성이 10%를 넘는다고 믿는다고 말하며, 첨단 시스템의 위험성에 대한 커지는 논쟁에 힘을 보탰다. 이 발언은 AI 기업들이 너무 빨리 움직이고 있으며 위험성에 대해 완전히 투명하지 않다는 우려로 앤스로픽을 그만뒀다고 주장하는 한 인물의 바이럴 게시물에 뒤이어 나왔다. 이후 앤스로픽 연구원 이반 허빈저는 회사가 재앙적 피해의 가능성을 심각하게 받아들이고 있다고 공개적으로 동의했다. 기사에서 인터뷰한 전문가들은 이러한 경고가 AI 안전, 사이버 공격, 허위정보, 그리고 강력한 규제의 부재에 대한 더 광범위한 우려를 반영한다고 말했다. 다른 이들은 일자리 대체, 미흡한 감독, 그리고 공공 시스템과 교육 전반에 걸친 AI의 빠른 확산을 포함해 가장 큰 문제들은 이미 오늘날 눈에 보인다고 주장했다. 또한 이 기사에서는 캐나다의 AI 정책이 여전히 미완성 상태라고 지적한다. 이반 솔로몬 장관은 정부가 개인정보 보호와 안전을 지키기 위한 규제를 마련하고 있다고 말했지만, 비판론자들은 입법이 여전히 개발 속도를 따라가지 못하고 있다고 말한다.