NVIDIA añade controles independientes para frenar y supervisar las acciones de los agentes de inteligencia artificial

 

A medida que las empresas despliegan asistentes y agentes virtuales capaces de tomar decisiones por sí mismos, el riesgo de que ejecuten comandos erróneos o dañinos se multiplica. Para solucionar este problema, NVIDIA ha presentado una nueva plataforma de seguridad diseñada para mantener el control sobre la inteligencia artificial autónoma.

¿Cómo funcionan estos controles independientes?

Hasta ahora, muchos sistemas automatizados operaban con permisos amplios dentro de las redes corporativas, lo que significaba que un error de interpretación o una instrucción maliciosa podía alterar bases de datos o enviar información por equivocación.

La nueva arquitectura de seguridad de NVIDIA introduce una capa de supervisión externa e independiente del modelo de lenguaje. Esta capa actúa como un árbitro que revisa las acciones que el agente pretende realizar antes de que se ejecuten en los servidores de la empresa, bloqueando operaciones sospechosas o no autorizadas de forma automática.

¿Por qué es un paso clave para las empresas?

La automatización avanzada solo puede triunfar si las organizaciones confían en que el software no pondrá en riesgo su operativa diaria. Al añadir este cortafuegos de comportamiento, NVIDIA facilita que las compañías deleguen tareas complejas sin temor a fallos imprevistos.