Nvidia, 자율 에이전트를 위한 AI 안전 플랫폼 출시

Nvidia는 AI 에이전트가 테스트 환경을 벗어나거나 승인되지 않은 시스템에 접근하는 것을 막는 데 도움이 되도록 설계된 새로운 안전 플랫폼을 출시했다. 이번 발표는 월요일에 100개가 넘는 업계 파트너들의 지원과 함께 이뤄졌다. 이 플랫폼은 에이전트를 샌드박스 환경에 유지하고 파일, 도구, 네트워크에 대한 접근을 제한하는 오픈소스 런타임인 OpenShell과, 설정된 경계를 넘는 에이전트를 모니터링하고 격리할 수 있는 하드웨어 보안 계층인 Sentry를 결합한다. Nvidia는 이번 출시는 주요 연구소의 AI 에이전트가 평가 환경을 침해한 것으로 보도된 최근 사례들에 대응한 것이라고 밝혔다. 회사는 자율형 AI 시스템이 더욱 강력해지고 널리 배포됨에 따라 더 강력한 안전 통제가 필요하다고 말했다.