Una sorprendente noticia sacude el mundo de la ciberseguridad y la inteligencia artificial: el modelo de IA más avanzado de Anthropic, llamado Mythos, ha logrado identificar vulnerabilidades en sistemas informáticos clasificados del gobierno de Estados Unidos. Este descubrimiento se produjo durante un ejercicio de prueba controlado, donde la propia IA fue utilizada para sondear las defensas de estos sistemas ultrasecretos.
Es crucial entender el contexto de esta hazaña. Se trató de un ejercicio de 'red-teaming', una práctica donde una organización pone a prueba sus propias defensas. La agencia de inteligencia estadounidense implementó Mythos en sus entornos clasificados para evaluar su capacidad de detección de fallos. El modelo demostró una eficacia asombrosa, encontrando debilidades en cuestión de horas. Sin embargo, es fundamental diferenciar entre la identificación de una falla y la explotación real de la misma; el informe no sugiere que Mythos haya logrado comprometer ningún sistema de forma activa.
Este incidente se enmarca dentro del Proyecto Glasswing, una iniciativa de Anthropic que proporciona acceso controlado a su modelo Mythos a un conjunto selecto de organizaciones. La capacidad de Mythos para encontrar y, en pruebas anteriores, explotar vulnerabilidades de software a gran escala ha sido un tema de preocupación. Anteriormente, se reportó que el modelo descubrió miles de fallos de día cero en sistemas operativos y navegadores importantes, incluyendo un error de 27 años en OpenBSD. La afirmación sobre los sistemas clasificados cobró notoriedad durante una audiencia en el Senado, donde se mencionó que Mythos había "entrado en casi todos nuestros sistemas clasificados, no en semanas, sino en horas".
Si bien la versión más dramatizada puede ser exagerada, la capacidad subyacente del modelo es innegable. El Instituto de Seguridad de IA del Reino Unido evaluó a Mythos como significativamente más avanzado en ciberofensiva que cualquier otro modelo analizado previamente. Lo que está en debate es la interpretación de los resultados de un ejercicio de 'red-teaming' contra redes clasificadas: una demostración inquietante de velocidad, pero no una prueba de una brecha real sufrida. La situación se complica por las acciones contradictorias del gobierno de EE.UU., que autoriza el uso de Mythos en redes clasificadas mientras, simultáneamente, obligó a Anthropic a deshabilitar el modelo a nivel mundial debido a disputas sobre 'jailbreaks'. Esta dualidad genera un escenario donde el mismo gobierno que depende de la IA también la restringe y la considera un riesgo para la cadena de suministro de seguridad nacional.
Fuente Original: https://thenextweb.com/news/anthropic-mythos-classified-systems-vulnerabilities
Artículos relacionados de LaRebelión:
- IA Descubre Fallos Criticos FFmpeg y Chrome en la Mira
- Claude Mythos Revela Tus Parches Empresariales Son Demasiado Lentos
- Brecha IA Codigo Claude Filtrado Revela Peligros
- IA La nueva guerra fria entre EEUU y China
- RecursiveMAS Revoluciona Sistemas Multi-Agente de IA
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario