닝보 법원, AI를 이용해 음란물을 제작해 이익을 챙긴 사건 심리 종결

저장 닝보 위야오시 인민법원은 최근 생성형 인공지능을 이용해 음란물을 제작해 이익을 챙긴 사건을 심리해 마쳤으며, 피고인 6명은 각각 징역 3년 1개월에서 3년 10개월까지 선고받았다. 보도에 따르면 주범 정 모 씨는 과거 국내 한 대형 게임사의 AI 분야 프로그래머였다. 2024년 7월, 그는 해외 AI 음란 채팅 봇을 접한 뒤 동종 소프트웨어 개발을 기획하기 시작했고, 동료와 네티즌 등과 팀을 꾸렸다. 2025년 1월, 해당 AI 모델이 해외 플랫폼에 출시되었고, 여러 충전 경로를 통해 이용자에게 요금을 부과했다. 법원은 관련 인원이 시스템 프롬프트를 수정하고 역할 카드 등을 설정하는 방식으로 모델에 내장된 음란물 콘텐츠 안전 제한을 우회했으며, 이용자가 비용을 지불한 뒤 음란한 텍스트를 생성하고, 나아가 다양한 수위의 음란 이미지를 생성할 수 있었다고 판단했다. 사건 기록에 따르면, 해당 모델은 정지 이미지 37만여 장, 동적 이미지 6000여 장을 생성했으며, 누적 충전 금액은 인민폐 17만여 위안에 달했다. 법원은 피고 측이 내용은 이용자 입력에 의해 촉발된 것이라고 주장했지만, 이미 사전 설정된 기술 프레임워크를 통해 출력 내용에 대해 실질적인 통제를 형성했으므로 형법상 ‘음란물 제작’에 해당한다고 인정해야 한다고 밝혔다. 또한 9월 7일 최고인민법원이 발표한 관련 의견도 인공지능을 이용해 음란물을 제작·판매·전파하여 범죄를 구성하는 경우, 법에 따라 형사책임을 추궁해야 한다고 명확히 했다.