OpenAI, 조직적인 모델 증류 캠페인을 차단했다고 밝혀

OpenAI는 자사 모델에서 보호된 추론을 추출하려는 조직적인 캠페인을 식별하고 차단했다고 밝혔다. 회사는 이 활동이 7월 초에 시작되었으며, 허가 없이 다른 모델을 재현하거나 개선하는 데 도움이 될 수 있는 방식으로 모델 출력을 사용하려는 시도가 포함되었다고 말했다. OpenAI에 따르면, 운영자들은 암호화를 해독하거나 데이터베이스에 접근하거나 저장된 사용자 대화에 직접 접근하지 않았다. 대신, 모델 상호작용을 조작해 숨겨진 추론을 눈에 보이는 형태로 드러나게 했다. OpenAI는 이 문제가 고급 AI 시스템이 직면한 더 광범위한 보안 과제를 반영한다고 말하며, 방어 체계를 강화하는 데 도움이 되도록 업계 파트너들과 세부 사항을 공유했다고 밝혔다. OpenAI는 계정 차단과 제한, 더 강화된 가입 및 인프라 통제, 확장된 모니터링으로 대응했다고 밝혔다. 또한 숨겨진 추론에 대한 보호 조치를 추가하고, 암호화된 추론을 노출할 수 있는 재생 경로를 차단했으며, 활동이 외부 서비스를 거쳐 이동한 경우 제3자 제공업체와 협력했다고 말했다. 회사는 기술적 안전장치와 위협 정보 공유를 계속 개선해 나갈 것이라고 밝혔다.