엔비디아, AI 에이전트 안전 플랫폼 공개…통제 계층을 하드웨어로 확장

오픈셸 런타임과 블루필드-4 기반 센트리 결합. 경계 이탈 시 밀리초 단위 격리는 회사 설명

엔비디아가 AI 에이전트의 테스트부터 배포까지 통제하는 오픈 에이전트 세이프티 플랫폼을 공개했다.

오픈소스 실행 환경인 오픈셸과 하드웨어 감시 계층인 센트리의 레퍼런스 시스템 설계를 결합한 구성이다.

에이전트가 실행되는 소프트웨어뿐 아니라 컴퓨팅 인프라와 로봇 시스템까지 거버넌스 범위를 확장한다.

오픈셸은 에이전트의 행동을 추적하고 실행 중 정책을 강제하는 경계를 제공한다.

엔비디아는 베라 CPU에서 낮은 오버헤드로 동작하며, 오픈소스인 만큼 Arm·인텔 등 다른 컴퓨팅 플랫폼으로도 확장할 수 있다고 설명했다.

센트리는 블루필드-4 DPU에서 에이전트 환경과 분리돼 행동을 감시한다.

설정된 경계를 벗어나려는 에이전트를 밀리초 단위로 격리·중단할 수 있다는 것이 회사 설명이다.

협력 범위에는 앤트로픽, 마이크로소프트, 세일즈포스, SAP 등 100개 이상의 조직이 포함됐다.

세일즈포스는 슬랙에서 에이전트의 활동·감사 이벤트를 확인하고 추가 권한 요청을 승인하거나 거절하는 오픈셸 연동을 소개했다.

SAP는 주울 스튜디오 런타임에 오픈셸을 내장한다.

이번 발표는 모델 내부의 안전 장치에 실행 환경의 통제를 더하는 접근이다.

오픈셸 소프트웨어는 제공되고 있으나, 센트리는 레퍼런스 설계이며 발표에 등장하는 모든 기능의 상용 제공을 일괄 보장하는 것은 아니다.