OpenAI가 EU 텍스트 출처 규칙에 대한 접근 방식을 설명한다

OpenAI는 EU AI 법에 맞춰 AI가 생성한 텍스트를 식별하는 데 도움이 되도록 텍스트 워터마킹과 관련 출처 추적 도구를 도입한다고 밝혔습니다. 회사는 이번 배포가 전 세계 일부 API 모델에 대한 선택형 워터마킹으로 시작된 뒤, 앞으로 몇 주에 걸쳐 유럽연합에서 자격이 되는 ChatGPT와 Codex 텍스트 출력에 보이지 않는 워터마크를 적용하는 방식으로 이어질 것이라고 말했습니다. 회사는 textGrain이라고 불리는 자사의 텍스트 워터마킹 시스템을 단어 선택을 통해 추가되는 보이지 않는 통계적 신호라고 설명했습니다. OpenAI는 자사 탐지기가 일부 경우 이 신호를 찾아낼 수 있지만, 성능은 텍스트 길이, 주제, 편집 여부에 따라 달라지며 오탐과 미탐 가능성은 여전히 남아 있다고 밝혔습니다. OpenAI는 이미지와 오디오 출처 추적 도구는 계속 공개적으로 제공되는 반면, 탐지기 접근은 처음에는 승인된 연구자와 전문가 조직으로 제한될 것이라고 말했습니다. 또한 회사는 벤치마크 테스트에서 워터마킹으로 인한 의미 있는 품질 변화는 보지 못했으며, 기준과 규제가 변화함에 따라 기술을 계속 개선할 계획이라고 밝혔습니다.