저위험 AI는 자율규제, 최첨단 모델은 외부 평가 의무화 필요

최재필 미국 미시간주립대 석좌교수는 인공지능 산업의 경쟁이 안전 검증을 충분히 거치지 않은 조기 출시로 이어질 수 있다고 지적했다. 그는 30일 경향신문 서면 인터뷰에서 위험이 낮은 단계에서는 자율규제를 적용하고, 일정 수준 이상의 최첨단 모델에는 외부 평가와 최소 안전 기준을 의무화하는 절충안이 필요하다고 밝혔다. 최 교수는 기업들이 AI의 위험성을 인식하면서도 시장 경쟁과 뒤처질 수 있다는 압박 때문에 개발 속도를 늦추기 어렵다고 봤다. 그는 안전을 중시하는 기업조차 경쟁 환경에서는 위험한 선택을 할 수 있다며, 기업의 의도보다 시장 구조를 함께 바꿔야 한다고 설명했다. 그는 안전 기준을 기업 규모가 아니라 AI 모델의 실제 위험 능력에 맞춰 적용해야 한다고 제안했다. 또한 정부뿐 아니라 독립 연구기관과 국제기구가 기준 마련과 검증에 함께 참여하는 방식이 바람직하다고 말했다. 국제협력과 관련해서는 미국과 중국이 AI 개발 전반을 제한하는 포괄적 합의는 어렵지만, 대규모 사이버 공격이나 생물학적 위협처럼 양국 모두 피해를 볼 수 있는 위험부터 좁게 협력하는 것이 현실적이라고 했다. 한국에 대해서는 혁신을 지원하되 위험 수준에 따라 규제를 강화하는 단계적 접근이 필요하다고 조언했다.