Anthropic, 새 위협 보고서에서 Claude의 전 세계적 악용 사례를 상세히 공개
Anthropic의 위협 보고서는 생물무기 우려부터 스파이 활동에 이르기까지 Claude의 악용을 다룬다 회사가 해로운 사례를 어떻게 차단했는지, 그리고 더 강력한 AI가 왜 위험을 높이는지 확인해 보라
Anthropic은 지난 8개월 동안 차단했다고 밝힌 Claude의 오용 사례를 요약한 새로운 위협 보고서를 발표했다. 이 보고서는 생물무기 우려, 첩보 활동, 로켓 유도, 악성코드 회피, 그리고 모델의 기타 유해한 사용과 관련된 시도들을 다룬다.
이 회사는 증류 작업에 관여한 중국 연구실들을 식별했다고 밝혔으며, Claude가 자체 독점 모델 대신 고객에게 제공된 것으로 의심되는 사례들도 설명했다. 또한 안전 경고를 불러일으킨 여러 생물학 관련 사례를 언급하면서도, 사용자들이 해를 끼칠 의도를 가졌다고 주장하는 것은 아니라고 말했다.
보고서의 다른 사례로는 예멘의 로켓 유도 워크플로와 말리 정보기관과 연관된 감시 소프트웨어 작업이 포함됐다. Anthropic은 이 사례들이 Opus 수준 및 그 이하의 모델을 포함했다고 밝혔으며, 더 강력한 시스템은 훨씬 더 큰 안전 문제를 초래할 수 있다고 덧붙였다.