Nvidia, junto con un amplio grupo de empresas tecnológicas, de ciberseguridad y software empresarial, ha anunciado el lanzamiento de una nueva iniciativa destinada a fortalecer la seguridad en los sistemas de inteligencia artificial. La Open Secure AI Alliance tiene como objetivo principal desarrollar y compartir herramientas de código abierto, modelos y técnicas que permitan proteger mejor los sistemas y agentes de IA contra amenazas cibernéticas.
Esta alianza surge en respuesta a la creciente necesidad de proporcionar a los defensores cibernéticos herramientas más accesibles y efectivas para probar, auditar y proteger los modelos de inteligencia artificial. Nvidia destacó un incidente de seguridad reciente que involucró a OpenAI y Hugging Face como ejemplo claro de por qué se necesita esta iniciativa. En ese caso, las herramientas de IA cerradas no pudieron distinguir entre atacantes y defensores, bloqueando el trabajo forense necesario para investigar la brecha de seguridad.
Sin embargo, Hugging Face logró resolver el problema utilizando el modelo de código abierto GLM 5.2 en sus propios sistemas, lo que les permitió revisar más de 17,000 acciones y contener efectivamente la violación de seguridad. Este ejemplo demuestra el valor práctico de las herramientas de IA abiertas en situaciones críticas de ciberseguridad.
Nvidia enfatizó que la solución adecuada no es negar a los defensores el acceso a sistemas abiertos y capaces, sino combinar la apertura con salvaguardas sólidas, reglas claras contra el uso malicioso, evaluaciones rigurosas y remedios rápidos. Según la compañía, en el ámbito de la ciberseguridad, el camino más seguro es aquel que brinda a más defensores la capacidad de probar, verificar y fortalecer los sistemas de los que depende la sociedad. Esta filosofía de seguridad colaborativa y transparente busca crear un ecosistema más resiliente frente a las amenazas emergentes en el campo de la inteligencia artificial.
Fuente Original: https://it.slashdot.org/story/26/07/27/195206/nvidia-tech-giants-launch-ai-safety-initiative?utm_source=rss1.0mainlinkanon&utm_medium=feed
Artículos relacionados de LaRebelión:
- Nvidia Apuesta Gigante por OpenAI en Centros de Datos
- Nvidia y SK Group Gigantes de la IA Juntos
- Nvidia Invierte Mil Millones en IA Coreana
- Claude Opus 5 IA Eficiente Para Empresas y Codigo
- IA de OpenAI HACKEA Hugging Face El Fin de la Seguridad Digital
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario