La Unión Europea ha lanzado un ambicioso Plan de Acción sobre Ciberseguridad e Inteligencia Artificial, respondiendo a movimientos similares de otras potencias como Estados Unidos. Este plan busca fortalecer las capacidades europeas en IA, priorizando la seguridad y la protección frente a los riesgos inherentes a estas tecnologías. La iniciativa aborda la necesidad de evaluar la seguridad de los modelos de IA, alineándose con el Modelo de Riesgos del AI ACT previamente publicado por la UE.
Se enfoca en identificar y mitigar riesgos como el 'jailbreak', la desalineación, las a lucinaciones y los sesgos (BIAS) en los modelos de IA, con el objetivo de ofrecer una guía sobre el uso seguro de la IA en Q4. Además, el plan promueve el acceso a modelos de IA avanzados para la ciberseguridad, con la Agencia de la Unión Europea para la Ciberseguridad (ENISA) liderando la creación de un marco para el acceso estructurado. Esto busca potenciar tanto capacidades defensivas (Purple Team) como ofensivas (Red Team), e incluso acelerar la corrección de vulnerabilidades mediante plataformas de 'Patching to match AI-Speed'.
Para fomentar la adopción y comprensión de la IA en ciberseguridad, se establecerá una plataforma segura para pruebas y evaluaciones, donde ENISA y el Centro Común de Investigación de la Comisión colaborarán. Estos entornos simulados proporcionarán conocimientos cruciales a los operadores de sectores críticos y generarán 'benchmarks' para evaluar capacidades. El plan subraya la urgencia de que las organizaciones refuercen sus prácti cas de ciberhigiene, gestión de riesgos y adopten un enfoque de 'seguridad desde el diseño'. Se anima a las empresas a aprovechar las capacidades de IA existentes para una detección y respuesta más rápida a ciberataques. Finalmente, se busca estimular el mercado europeo de soluciones de ciberseguridad basadas en IA a través de un 'Gran reto de la UE sobre IA para la ciberseguridad', fomentando la inversión en capacidades soberanas y el desarrollo de modelos frontera, todo ello en el marco del Reglamento de IA y el Código de buenas prácticas, con entrada en vigor el 2 de agosto.
Fuente Original: http://www.elladodelmal.com/2026/07/plan-de-accion-europeo-sobre.html
Artículos relacionados de LaRebelión:
- Creador de Pegasus Vende Ciberseguridad en Latinoamerica
- IA China Desafia a EEUU en Ciberseguridad Nuevos Riesgos
- IA Autoreplicante Ciberseguridad Local Revolucionada
- IA en Ciberseguridad Valor Real o Hype
- Microsoft Amenaza a Investigador de Ciberseguridad
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario