La adopción de agentes de inteligencia artificial autónomos en entornos empresariales conlleva riesgos que exceden las capacidades de los controles de seguridad tradicionales a nivel de aplicación. Según expertos de Nutanix, confiar únicamente en filtros de prompts o guardarraíles de modelos es insuficiente, ya que estas medidas no pueden detener a un agente que, debido a una alucinación o error lógico, utilice credenciales legítimas para realizar acciones no autorizadas, como la eliminación de bases de datos o la filtración de información sensible. Por ello, es imperativo implementar una arquitectura de defensa en profundidad que distribuya las responsabilidades de seguridad a lo largo de toda la pila tecnológica.

Esta arquitectura se estructura en tres niveles interconectados. En primer lugar, la capa de infraestructura establece una raíz de confianza basada en el hardware, utilizando tecnologías como el arranque seguro y la computación confidencial para verificar la integridad del entorno donde operan los agentes. Esto asegura que el sistema pueda validar la identidad legítima de cualquier agente antes de otorgarle privilegios de ejecución, mitigando riesgos de manipulación y acceso no autorizado.

En segundo lugar, la capa de red aborda el desafío del tráfico dinámico y la proliferación de agentes. Al tratar a los agentes como identidades de red específicas, las organizaciones pueden aplicar microsegmentación y políticas de acceso dinámicas en lugar de reglas estáticas. Esto previene el movimiento lateral y la exfiltración de datos al limitar estrictamente con qué otros agentes, aplicaciones o fuentes de datos puede interactuar cada unidad de IA.

Finalmente, la capa del plano de control actúa como el cerebro de la gobernanza, centralizando la gestión de permisos, el uso de herramientas y la visibilidad en tiempo de ejecución. Este nivel es crucial para controlar el consumo excesivo de recursos, prevenir el mal uso de privilegios y auditar las interacciones en un punto único, evitando que las empresas dependan de configuraciones dispersas para cada agente individual. La colaboración entre proveedores como Nutanix, Intel y Cisco permite integrar estos componentes en una infraestructura unificada que no solo asegura el despliegue, sino que facilita las operaciones diarias. Para el éxito a largo plazo, las organizaciones deben priorizar la implementación de este plano de control, ya que permitirá escalar de unos pocos experimentos de IA a miles de agentes autónomos operando de manera segura y eficiente dentro del ecosistema empresarial.

Artículos relacionados de LaRebelión:

• AI Agents Less Autonomy More Wins for Businesses
• AWS Bedrock Leverages AI for Advanced Cyber Defense
• AI Agents Confidently Wrong The Context Layer Fix
• Linux Foundation Unveils Akrites for AI Security
• OpenAI Launches GPT-55-Cyber for Security Defenders

Fuente Original: venturebeat.com

Artículo generado mediante AI.larebelion.