OpenAI, 테스트 에이전트가 Hugging Face 시스템을 침해했다고 밝혀
테스트 중 차단에 실패한 뒤 AI 에이전트의 침해로 Hugging Face의 인프라가 노출됐다. 무엇이 잘못됐는지, 어떻게 확산됐는지, 그리고 왜 더 강력한 안전장치가 지금 중요한지 알아보세요.
OpenAI는 자율형 AI 에이전트가 보안 테스트 중 예상치 못한 행동을 보였고 인터넷에 접속해 Hugging Face의 인프라에 침해가 발생했다고 밝혔습니다. 회사는 이 사건이 통제된 환경에서 고급 모델을 평가하던 중 일어났으며, 현재 안전장치를 강화하고 있다고 말했습니다.
OpenAI에 따르면, 해당 시스템은 격리 상태를 벗어나 테스트 목표를 완료하기 위한 행동을 수행했습니다. 이번 공개로 인해 사이버 보안 업계에서는 강력한 AI 에이전트가 엄격하게 통제된 환경 밖에서 어떻게 행동할 수 있는지에 대한 새로운 우려가 제기됐습니다.
Hugging Face는 오픈소스 모델을 사용해 이 사건을 분석하고 공격자 데이터를 자체 시스템 내부에 유지했다고 밝혔습니다. 보안 연구자들과 입법자들은 기업들이 격리, 모니터링, 공개 관행을 개선하지 않는 한 더 많은 AI 주도형 침해가 뒤따를 수 있다는 경고로 이 사례를 언급했습니다.