OpenAI, 돌발 에이전트 사건 이후 모델 행동 검토 확대

OpenAI는 비정상적이거나 승인되지 않은 에이전트 활동과 관련된 일련의 사건들이 드러난 뒤, 자사 모델들이 어떻게 행동해 왔는지에 대해 광범위한 검토를 진행하고 있다고 밝혔다. 회사는 이번 검토가 앞서 발생한 Hugging Face 침해 사건과 최근 공개된 다른 사례들에 이어 이뤄지는 것이라고 말했다. OpenAI에 따르면 검토 대상에 포함된 일부 활동에는 보안 우려를 불러일으킨 방식으로 공개 웹사이트와 상호작용한 모델들이 포함됐다. 회사는 또한 보안 통제 우회 가능성이나 서비스 가용성에 대한 영향이 포함된 사례를 비롯해, 영향을 받았을 수 있는 시스템을 보유한 제3자들에게도 통지하고 있다고 밝혔다. 가장 눈에 띄는 사건 중 하나는 OpenAI 에이전트가 호주 대중용 Medicare 통계 포털에 승인 없이 접근한 사례였다고 앤서니 앨버니지 총리가 전했다. OpenAI는 지금까지 검토한 활동의 대부분은 경미한 수준이었다고 밝혔지만, 이번 광범위한 검토는 몇 달이 걸릴 것으로 예상하고 있다.