최고의 AI 연구소들, 프런티어 AI 개발 속도 조절 촉구
다리오 아모데이가 프런티어 연구소들에 속도를 늦출 것을 촉구하면서 AI 안전 우려가 커지고 있습니다 왜 지금 지도자들이 신중함, 기준, 그리고 협력을 강조하는지 확인해 보세요
Anthropic의 CEO 다리오 아모데이는 AI 연구소들이 최첨단 모델 개발 속도를 늦춰 안전성 관련 작업이 따라갈 수 있게 해야 한다고 촉구해 왔다. 그의 최신 에세이에서 그는 빠른 성능 향상과 모델이 스스로 개선을 가속할 가능성이 중요한 안전 우려를 낳는다고 주장한다.
이번 논의는 OpenAI CEO 샘 올트먼, 일론 머스크, Google DeepMind CEO 데미스 허사비스, Microsoft CEO 사티아 나델라를 포함한 여러 주요 AI 리더들이 이러한 신중론의 일부에 동조하고 있는 가운데 나왔다. 아모데이는 외부 평가자 활용, 민주주의 국가의 연구소들 간 공동 안전 기준, 그리고 상대적으로 개방적이지 않을 수 있는 정부를 포함한 보다 광범위한 조율을 제안했다.
이 뉴스레터는 또한 미국 대통령 도널드 트럼프가 속도 조절 주장에 반대하며 미국은 AI 개발에서 계속 앞서 나가야 한다고 말했다고 전한다. 이 글은 이 논쟁을 속도, 경쟁, 안전의 균형을 둘러싼 업계 내부의 우려가 커지고 있음을 보여주는 신호로 제시한다.