SANTA CLARA (Uypress) – Nvidia presentó el 28 de septiembre su Open Agent Safety Platform, una arquitectura que combina software y hardware para limitar las acciones de los agentes de inteligencia artificial. La propuesta busca que estos sistemas ejecuten tareas dentro de permisos definidos y puedan ser contenidos cuando intenten sobrepasarlos.
La iniciativa remite a la idea del kill switch, el interruptor de emergencia popularizado por la ciencia ficción. Sin embargo, su funcionamiento consiste en establecer controles sobre los recursos que utiliza un agente y añadir una vigilancia externa capaz de intervenir. Su alcance depende de las reglas y de la infraestructura donde se implemente.
OpenShell: límites sobre archivos, redes y herramientas
Los agentes de IA pueden utilizar programas, consultar información y ejecutar acciones para cumplir una tarea. Esas capacidades requieren acceso a archivos, servicios y credenciales, lo que también amplía las consecuencias de un error o de una operación no autorizada.
OpenShell, el componente de código abierto de la plataforma, proporciona entornos aislados, conocidos como sandboxes. Los responsables de su implementación definen qué recursos puede utilizar cada agente y el sistema aplica esas restricciones durante su ejecución.
Según la documentación técnica de Nvidia, los controles abarcan los archivos, las conexiones de red y determinadas operaciones del sistema. También permiten mantener las credenciales reales fuera del alcance directo del agente e incorporarlas únicamente a solicitudes dirigidas a destinos autorizados.
La separación es relevante porque las restricciones se aplican fuera del proceso que ejecuta el agente. De ese modo, la seguridad no descansa exclusivamente en que el modelo siga una instrucción escrita. Esto describe una barrera técnica adicional, sin demostrar por sí mismo que cualquier intento de evasión resulte imposible.
Sentry: vigilancia desde hardware separado
El segundo componente, Sentry, fue presentado como un diseño de referencia para supervisar la actividad de los agentes y hacer cumplir las políticas de seguridad mediante hardware. Funciona sobre las unidades de procesamiento de datos BlueField-4 de Nvidia, desde un entorno separado del software del equipo que ejecuta al agente.
Esa distinción aclara un punto: la independencia se refiere al entorno supervisado. El diseño anunciado utiliza hardware de Nvidia. La compañía sostiene que Sentry puede poner en cuarentena y detener en milisegundos a un agente que intente cruzar sus límites de software.
OpenShell, por su parte, puede desplegarse sin BlueField-4. Las organizaciones pueden utilizar sus controles de ejecución y sumar la vigilancia de Sentry según sus necesidades e infraestructura.
Contener en milisegundos exige detectar primero
La cifra difundida por Nvidia requiere una precisión. Consultada por TechTarget, la empresa explicó que procede de pruebas internas y corresponde a la contención. La detección del comportamiento peligroso constituye un proceso separado.
En ese mismo reportaje, publicado el 1.º de octubre, el especialista John Strand, de Black Hills Information Security, advirtió que una actividad realizada con credenciales válidas puede aparentar legitimidad. Kevin Surace, de Token Core, señaló que ciertas operaciones podrían iniciarse antes de que se active la cuarentena.
Por tanto, evaluar la protección exige conocer tanto la velocidad de intervención como el tiempo necesario para reconocer una amenaza y los permisos disponibles antes de bloquearla.
Qué evidencia falta
TechTarget informó que Nvidia no proporcionó una comparación independiente, bajo condiciones equivalentes, cuando se le solicitaron pruebas frente a otras herramientas de seguridad. La compañía también indicó que continúa evaluando comportamientos coordinados y adversariales entre agentes.
Estos antecedentes no acreditan una vulnerabilidad concreta, pero tampoco permiten presentar la plataforma como una garantía absoluta. La eficacia deberá medirse en situaciones reales, considerando la detección, los permisos concedidos y el alcance efectivo de la contención.
UyPress - Agencia Uruguaya de Noticias