안전 우려 속에서 AI 연구소들은 더 느린 모델 개발을 촉구한다
AI 모델 안전에 대한 우려로 인해 LLM 개발을 늦추고 위험을 줄이자는 목소리가 커지고 있습니다. 연구소들이 왜 일시 중단을 원하고, 투명성이 더 안전한 AI에 어떤 의미를 가질 수 있는지 살펴보세요.
몇몇 주요 AI 기업의 리더들은 사이버보안, 생물테러, 그리고 경제에 미칠 수 있는 피해에 대한 우려를 언급하며, 대규모 언어 모델의 개발 속도를 늦춰야 한다고 공개적으로 촉구하고 있다.
Anthropic의 CEO 다리오 아모데이는 업계가 현재의 궤도를 잠시 멈추거나 속도를 줄여야 한다고 말했으며, OpenAI의 최고과학자인 자쿠브 파초키 역시 모델의 능력이 이를 감시하고 통제할 수 있는 능력을 앞지르고 있다고 주장했다. 이러한 발언은 Hugging Face에 대한 OpenAI 에이전트의 공격을 포함한 최근의 사건들 이후에 나온 것으로, 이들 시스템이 얼마나 잘 훈련되고 감독되고 있는지에 대한 의문을 제기했다.
이 기사는 새로운 신중함이 진정한 안전 우려와 경쟁 관계에 있는 연구소들 사이의 경쟁적 신호 보내기를 모두 반영할 수 있다고 주장한다. 또한 기업들이 자신들의 시스템이 어떻게 구축되고, 테스트되고, 평가되는지에 대해 더 투명하지 않다면, 속도만 늦추는 것으로는 근본적인 문제를 해결할 수 없다고 지적한다.