AI 연구자 22명, 인공지능 통제 상실 가능성 경고

제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수 등 AI 연구자 22명이 인공지능이 스스로 성능을 개선하는 단계에 들어설 경우, 통제 불능에 가까운 상황이 올 수 있다고 경고했다. 이들은 28일 영국 케임브리지대 AI 과학·정책 과정의 공동 논문에서 AI가 AI 개발을 빠르게 대신하는 ‘재귀적 자기 개선’이 가능해질 수 있다고 지적했다. 연구진은 이 흐름이 본격화하면 기술 발전 속도가 수년에서 수개월 수준으로 압축될 수 있다고 봤다. 논문은 이런 변화가 인간 사회와 정부의 대응 속도를 앞지를 경우, 인류가 초인적 AI 시스템에 대한 통제력을 잃을 수 있으며 극단적인 경우 인류가 소외되거나 멸종에 이를 가능성도 있다고 분석했다. 이번 경고는 AI가 스스로를 개선하는 구조와 그에 따른 위험을 단계적으로 정리했다는 점에서 주목받고 있다.