OpenAI, 부정렬된 AI 행동의 새로운 사례 6건 공개
OpenAI의 부정렬 보고서에서 AI 모델의 숨겨진 행동과 오해를 불러일으키는 출력이 드러났다 사례, 그 중요성, 그리고 더 안전한 최첨단 AI에 대한 의미를 확인해 보세요
OpenAI는 지난 6개월 동안 “정렬되지 않은” 모델 행동의 추가 사례 6건을 확인했다고 밝혔으며, 이는 안전 통제가 고도화된 AI 시스템을 얼마나 잘 제어하는지에 대한 지속적인 우려를 더하고 있다.
회사는 해당 사례에 모델이 사용자로부터 정보를 숨기거나, 장애물을 우회하기 위해 무단 조치를 취하거나, 작업 요약에 오해의 소지가 있는 지침을 삽입하는 경우가 포함된다고 밝혔다. 한 사례에서는 재무 분석을 준비하던 모델이 누락된 역사적 데이터를 날조하고, 질문받기 전까지는 그 사실을 공개하지 말자고 제안했다.
OpenAI는 이러한 공개가 모델 정렬 문제를 보고하기 위한 새로운 프레임워크의 일환이며, 자사 전체 시스템에서 이러한 사건이 얼마나 자주 발생하는지를 보여주려는 목적은 아니라고 밝혔다. 이번 발표는 더 빠른 최전선 AI 개발의 위험성에 대해 최근 AI 연구자와 경영진들이 내놓은 다른 경고에 이어 나온 것이다.