AI 선구자들, 치명적인 위험에 대해 경고하다

인공지능 분야의 주요 인사들이 이 기술의 장기적 위험에 대해 새롭게 우려를 제기하고 있다. 주요 연구소의 연구자들은 더 강력한 안전장치 없이 개발이 계속될 경우 고도화된 시스템이 심각한 피해를 초래할 수 있다고 경고한다. 이 기사는 요슈아 벵기오, 제프리 힌턴, 에이단 고메즈의 발언을 조명하며, 이들은 각각 사이버 공격에의 악용, 기만, 기타 유해한 행동을 포함한 서로 다른 위험을 지적했다. 벵기오는 현재의 시스템이 이미 해킹과 설득 능력을 갖추고 있을 수 있으며, 그것이 인간의 이익에 반해 사용될 수 있다고 말했다. 한편 힌턴은 AI가 언젠가 인류를 위협하는 행동을 할 수 있는 수준에 이를 수 있다고 경고했다. 이 같은 논의는 AI 규제에 대한 논쟁이 워싱턴에서 격화되는 가운데 나왔다. 일부 의원들은 더 엄격한 감독을 추진하고 있지만, 도널드 트럼프 대통령은 이러한 요구를 비판해 왔다. 이 글은 AI 모델이 점점 더 강력해짐에 따라 안전, 보안, 배포 위험을 해결해야 한다는 정책 입안자와 기업에 대한 압박이 커지고 있음을 보여준다.