Microsoft está tomando medidas significativas para abordar los crecientes riesgos de seguridad asociados con la proliferación de agentes de inteligencia artificial (IA) dentro de las grandes organizaciones. Ante la rápida adopción de estas herramientas, que a menudo operan sin la supervisión adecuada, la compañía ha anunciado la disponibilidad general de dos productos clave: Agent 365 y Microsoft 365 Enterprise 7, ambos disponibles a partir del 1 de mayo.
Agent 365 actúa como un "plano de control" para los agentes de IA, permitiendo a los equipos de TI, seguridad y negocios observar, gobernar y asegurar estas entidades de f orma centralizada. Este servicio, con un costo de 15 dólares por usuario al mes, es crucial dado que un informe de Microsoft reveló que casi el 29% de los agentes de IA en las empresas operan sin aprobación, y solo el 47% utiliza herramientas de seguridad para sus implementaciones de IA. El riesgo de que estos agentes sean manipulados para actuar en contra de los intereses de la empresa, conocidos como "agentes doble", es una preocupación creciente.
Microsoft 365 Enterprise 7, por su parte, es una suite integral que combina Agent 365 con Microsoft 365 Copilot y las capacidades de seguridad más avanzadas de la empresa por 99 dólares por usuario al mes. Esta oferta busca proporcionar una solución unificada ante la complejidad y el riesgo de utilizar múltiples herramientas fragmentadas. La compañía también está expandiendo las capacidades de sus agentes de IA con la Ola 3 de Microsoft 365 Copilot, incorporando modelos de OpenAI y Anthropic, como Claude. La estrategia de Microsoft se centra en extender los principios de "confianza cero" desde los usuarios humanos a los sistemas de IA, asegurando que los agentes tengan identidades únicas, se apliquen políticas de acceso condicional y se proteja la información sensible.
El problema de los agentes no gobernados es acuciante. Más del 80% de las empresas Fortune 500 utilizan agentes de IA, pero una parte significativa carece de aprobación formal. Microsoft está respondiendo a esta brecha de visibilidad y riesgo con soluciones que buscan ofrecer observabilidad, seguridad y gobernanza. La oferta de estos productos, especialmente el paquete Enterprise 7, posiciona a Microsoft como un proveedor clave para las organizaciones que buscan implementar IA de manera segura y controlada, intentando equilibrar la velocidad de innovación con la necesidad de una gobernanza robusta para garantizar "agentes confiables" en el futuro del trabajo.
Fuente Original: https://venturebeat.com/technology/microsoft-says-ungoverned-ai-agents-could-become-corporate-double-agents-its
Artículos relacionados de LaRebelión:
- Google Lanza Agente de Memoria Persistente Sin Bases Vectoriales
- Control y Gobierno de IA Nueva Plantilla RFP
- IA de OpenAI Agente de Datos Revoluciona Empresas
- Uber Revoluciona Control de Acceso Microservicios Seguros
- Goldman Sachs Lanza Indice Sin IA Inversiones Inteligentes
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario