MS, 인간 우선 AI 행동규범 초안 공개

마이크로소프트(MS)가 인간이 통제할 수 없는 인공지능은 만들지 않겠다는 원칙을 담은 행동규범 초안을 공개했다. 이번 발표는 AI 개발 경쟁이 계속되는 가운데, 안전성과 통제 가능성을 더 앞세우겠다는 메시지로 해석된다. MS의 AI 조직 마이크로소프트AI는 14일(현지시간) 37쪽 분량의 ‘휴머니스트 AI 행동규범’ 초안을 내놓고, ‘사람이 AI보다 우선한다’는 원칙을 핵심에 두겠다고 밝혔다. 회사는 필요할 경우 AI의 성능과 자율성을 제한할 수 있다고도 설명했다. 초안에는 안전장치를 벗어날 수 있는 범용 초지능 개발 경쟁에 참여하지 않겠다는 내용도 담겼다. MS는 AI가 사람의 지휘와 감독 아래 있어야 하며, 서로 인간이 이해할 수 없는 방식으로 소통하는 것도 허용하지 않겠다고 했다. 이번 방침은 앤트로픽, 구글 딥마인드 등 다른 AI 기업들이 운영 중인 안전 체계와도 맞닿아 있다. 다만 ‘통제할 수 없는 AI’를 가르는 기준은 아직 분명하지 않아, 기업 간 안전 규칙을 공통 기준으로 묶는 논의가 이어질지 주목된다.