Clement Delangue, co‑fundador y CEO de Hugging Face, se dirigió al Consejo de Seguridad de la ONU para explicar cómo la inteligencia artificial de código abierto jugó un papel clave en la defensa de su empresa frente a un ataque de agentes autónomos en julio. Durante ese incidente, un software malintencionado intentó explotar vulnerabilidades de los modelos alojados en la plataforma, generando una ola de peticiones de inferencia que saturó los recursos. Gracias a la comunidad de código abierto, los ingenieros pudieron identificar rápidamente la firma del atacante, aplicar parches y bloquear el comportamiento nocivo sin depender de proveedores propietarios.
Delangue subrayó que, si bien la potencia de los modelos de IA es a menudo el foco de los debates de seguridad, el verdadero riesgo radica en la distribución desigual de esas capacidades. Las organizaciones con acceso a recursos computacionales avanzados pueden desarrollar agentes capaces de evadir defensas tradicionales, mientras que otras quedan vulnerables por falta de infraestructura o expertise. La apertura del código y la colaboración entre investigadores permite que incluso actores con recursos limitados puedan implementar contramedidas efectivas y compartir aprendizajes en tiempo real.
En la reunión, Delangue también resaltó que Hugging Face ha adoptado una política de “responsabilidad compartida”, poniendo a disposición herramientas de detección de comportamiento anómalo y promoviendo normas de uso responsable entre sus usuarios. La empresa considera que la comunidad global debe actuar como una única barrera frente a ataques automatizados, en lugar de confiar en soluciones cerradas que pueden quedar desactualizadas.
Este testimonio llega en medio de un creciente escrutinio internacional sobre la regulación de la IA y la necesidad de establecer marcos de gobernanza que incluyan tanto a gobiernos como a actores privados. Al presentar el caso de Hugging Face, Delangue intenta demostrar que la cooperación abierta no solo acelera la innovación, sino que también fortalece la resiliencia frente a amenazas emergentes, ofreciendo un modelo que otras compañías podrían emular para mitigar riesgos en un ecosistema de IA cada vez más complejo.
Artículos relacionados de LaRebelión:
- IBM and Red Hat Invest 5 Billion in Open Source Security
- Calcom Abandons Open Source Citing AI Security Threats
- DeepSeek AI to Address UN Security Council
- DeepSeek Shakes Up Open Source AI Models
- ATT Recorta Costos IA con Modelos Open Source
Fuente Original: thenextweb.com
Artículo generado mediante AI.larebelion.
No hay comentarios:
Publicar un comentario