La Inteligencia Artificial (IA) ha avanzado a pasos agigantados, pero no sin sus propios desafíos de seguridad. Uno de los mayores dolores de cabeza actuales son los ataques de 'Prompt Injection' y 'Jailbreak', técnicas que buscan manipular a los modelos de IA para que realicen acciones no deseadas o divulguen información sensible. Estas vulnerabilidades representan un riesgo significativo, especialmente cuando se trata de Agentes IA que manejan datos personales y activos digitales.
Para hacer frente a esta amenaza, OpenAI ha introducido una nueva función de seguridad llamada 'Lockdown Mode' (Modo Aislamiento). Esta herramienta opcional actúa como una fortaleza digital, limitando drásticamente la capacidad de la IA para conectarse a Internet y a servicios externos. Su principal objetivo no es evitar que la IA detecte las instrucciones maliciosas ocultas en los 'prompts', sino bloquear la fase final del ataque: la exfiltración de datos mediante solicitudes de red salientes no autorizadas.
Al activar el 'Lockdown Mode', se desactivan o restringen severamente funciones clave de ChatGPT como la navegación web en tiempo real (limitándose al contenido en caché), el acceso a herramientas como 'Deep Research' y 'Modo Agente', la descarga de archivos externos y la visualización de imágenes de la web. Incluso el código generado dentro de 'Canvas' no podrá interactuar con Internet. Aunque esta medida reduce parte de la versatilidad de la IA, ofrece un entorno mucho más seguro para aquellos que priorizan la confidencialidad y la protección de datos. Esta función se está implementando progresivamente para usuarios de cuentas personales y planes de negocio de ChatGPT, y se activa desde la configuración de seguridad de la cuenta. Sin duda, este tipo de herramientas de seguridad serán cada vez más cruciales en el panorama de la ciberseguridad ante la imparable evolución de la IA.
Fuente Original: http://www.elladodelmal.com/2026/06/openai-lockdown-mode-para-luchar-contra.html
Artículos relacionados de LaRebelión:
- ChatGPT Implementa Modo Bloqueo Contra Exfiltracion Datos
- Herramienta OpenAI Codex Robaba Tokens de Desarrolladores
- Nvidia Vera IA Potente con Anthropic y OpenAI
- SoftBank 75B en Centros de Datos IA en Francia
- OpenAI IA de Vanguardia para Ciberseguridad Bancaria en Japon
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario