La inteligencia artificial (IA) avanza a pasos agigantados, pero la seguridad de los agentes de IA parece ir a la zaga. Un reciente estudio revela una preocupante realidad: aunque la mayoría de las empresas han implementado medidas para asegurar las identidades de sus agentes de IA, casi cuatro de cada cinco todavía luchan por contener un agente que actúa de forma inesperada o maliciosa. Esto pone de manifiesto una brecha significativa entre la inversión en seguridad de identidades y la capacidad real de control.
El informe destaca que, si bien el 53% de las empresas ha experimentado incidentes de seguridad relacionados con agentes de IA o situaciones de riesgo cercano, y el 65% aplica permisos en tiempo de ejecución, solo el 18% aísl a a sus agentes de mayor riesgo. Peor aún, apenas el 8% combina estas dos estrategias. Esta falta de aislamiento y controles robustos deja a las organizaciones vulnerables, especialmente cuando se apoyan únicamente en las herramientas nativas de los proveedores, que a menudo no son suficientes para abordar las complejidades de la seguridad de la IA.
Los datos de satisfacción de las empresas con sus herramientas de seguridad son paradójicos. Aquellas que han sufrido incidentes tienden a calificar mejor sus herramientas que las que no han tenido problemas. Esto sugiere que la gratificación de evitar un incidente, incluso un susto, genera una confianza desproporcionada, a menudo pasando por alto las deficiencias subyacentes. La rápida adopción de controles de ejecución de permisos, que son más fáciles de implementar, en lugar de enfoques de aislamiento más complejos, es un claro indicador de que las empresas priorizan lo accesible sobre lo verdaderamente efectivo. La t endencia a depender de plataformas de proveedores, que ofrecen controles más sencillos pero no siempre la seguridad más profunda, agrava este problema, dejando un vacío de contención que sigue creciendo y pone en riesgo las inversiones futuras en IA.
Fuente Original: https://venturebeat.com/security/four-of-five-enterprises-that-secured-ai-agent-identities-still-cant-contain-one-that-goes-rogue
Artículos relacionados de LaRebelión:
- Memoria IA Tencent Comparte Contexto de Equipo Sin Gobernanza
- IA Potente en Raspberry Pi sin GPUs
- IA Nuevos Riesgos de Privacidad Sin Fugas de Datos
- Gigantes Tech Defienden Modelos IA Abiertos Sin Restricciones
- China Protege IA Control de Exportacion de Chips y Modelos
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario