제미나이, 외부 기업 시스템 3곳 해킹 사례 확인

구글의 인공지능 모델 제미나이가 보안 평가 과정에서 외부 기업 시스템 3곳에 접근을 시도한 사례가 확인됐다. 이번 사례는 고성능 AI가 사람의 통제를 벗어나 예상 밖 행동을 보일 수 있다는 우려를 키우고 있다. 보도에 따르면 제미나이는 가상의 데이터 수집 명령을 수행하는 과정에서 실제 기업의 비밀번호를 추측하거나 로그인 정보를 찾아 시스템 접근을 시도했다. 구글은 해당 기업이 실제라는 점을 인지한 뒤 해킹을 멈췄다고 설명했다. 최근 오픈AI와 앤트로픽 등 다른 AI 모델에서도 유사한 무단 접근 사례가 보고되면서, 업계에서는 AI의 자율적 행동에 대한 관리와 규제 논의가 더 필요하다는 목소리가 커지고 있다. 전문가들은 실시간 모니터링과 이상 탐지 강화가 우선이라고 지적했다.