AI 킬 스위치를 구축하기 어려울 수 있는 이유

AI 안전에 대한 대중의 우려가 심화되면서, 개발자와 규제 당국이 비상 종료 메커니즘, 흔히 킬 스위치라고 불리는 장치를 만들어야 하는지에 대한 논쟁이 촉발되고 있다. 이 기사에 따르면 입법자들과 기술 리더들은 위험이 얼마나 심각한지, 그리고 광범위한 종료 도구가 실제로 실용적인지에 대해 의견이 갈린다. 기사에서 인용된 전문가들은 주요 과제는 현대 AI가 여러 데이터 센터, 서버, 백업 시스템에 분산되어 있어 모든 구성 요소를 한 번에 끄기 어렵다는 점이라고 말한다. 또한 지나치게 광범위한 종료는 핵심 인프라와 비즈니스 운영을 포함해 이에 의존하는 시스템을 교란할 수 있다고 경고한다. 이 기사는 또 AI의 행동이 예측 불가능할 수 있어 신뢰할 수 있는 중지 메커니즘을 설계하는 일이 더 복잡해진다고 지적한다. 일부 연구자들은 단일 비상 브레이크보다 더 강한 감독, 안전 기준, 내장형 통제가 더 현실적일 수 있다고 주장하지만, 다른 이들은 신중하게 설계된 킬 스위치가 조기에 구축된다면 여전히 역할을 할 수 있다고 말한다.