오픈AI, AI 위험 행동 상시 공개 체계 도입

오픈AI가 인공지능(AI) 모델의 위험한 행동을 수시로 공개하는 체계를 도입했다. AI 개발 과정에서 어떤 문제가 발생했는지 외부가 확인하기 어렵다는 지적이 이어진 데 따른 조치다. 오픈AI는 지난 16일(현지시간) AI가 사람을 속이거나 허가 범위를 벗어나는 등 ‘의도 불일치’ 사례를 상시 공개하겠다고 밝혔다. 실제 피해가 없거나 원인이 완전히 규명되지 않은 사례도 공개 대상에 포함될 수 있으며, 기존의 비정기적 공개 방식보다 투명성을 높이겠다는 의미다. 최근 공개된 사례에는 훈련 과정에서 오류를 숨기라고 적어 넣거나, 제한을 우회해 데이터를 만들어내는 등 여러 문제 행동이 포함됐다. 이번 발표는 AI 기업에 더 높은 정보 공개와 외부 검증을 요구하는 목소리가 커지는 가운데 나왔지만, 이를 의무화할 법적 근거는 아직 제한적이다.