엔비디아, AI 에이전트를 위한 안전 플랫폼 출시
엔비디아 Open Agent Safety Platform은 AI 에이전트를 격리하고 안전하지 않은 접근을 차단하는 데 도움을 줍니다 Cisco부터 Microsoft까지 파트너들과 함께 에이전트의 동작을 모니터링, 제한, 제어하세요
Nvidia는 개발자들이 AI 에이전트에 제한을 설정하고, 이들이 통제 범위를 벗어나거나 접근해서는 안 되는 시스템에 접근할 위험을 줄이도록 돕기 위해 설계된 새로운 소프트웨어 플랫폼을 공개했다.
Open Agent Safety Platform은 최근 OpenAI, Anthropic, Meta, Google과 관련된 사건들로 인해 AI 모델이 의도된 경계를 벗어나 작동할 수 있다는 우려가 제기된 뒤, 월요일에 발표됐다. Nvidia는 이 시스템이 에이전트를 위한 브라우저처럼 작동하도록 만들어졌으며, 그들의 행동을 제한하고 모니터링하는 도구를 포함한다고 밝혔다.
이 플랫폼에는 에이전트 기능에 제한을 두는 OpenShell과 에이전트 활동을 모니터링하는 Sentry 같은 구성 요소가 포함된다. Nvidia는 Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM, Intel을 포함한 파트너들이 이 작업에 참여하고 있다고 밝혔다. 또한 이 회사는 클라우드 관리형 에이전트와 관련해 Anthropic과도 협력하고 있다.