Explica cómo GPT-4, Claude3 y Gemini Pro confunden imágenes normales con ilusiones ópticas y qué riesgo supone para la seguridad de la IA.
El artículo explora cómo los modelos visuales de inteligencia artificial, a pesar de no tener una "percepción" humana, se ven afectados por las ilusiones ópticas. Estas ilusiones, que engañan a nuestros cerebros manipulando la información visual, representan un desafío para la IA, ya que deben reconocerlas para entender el contexto de lo que están "viendo".
El autor destaca un estudio llamado "The Illusion-Illusion: Vision Language Models See Illusions Where There are None", el cual revela que, al entrenar a los modelos de IA para identificar ilusiones ópticas, estos terminan "viendo" ilusiones donde no las hay. Esto se debe a que los modelos aprenden a reconocer patrones similares a las ilusiones, lo que los lleva a errores de clasificación cuando se enfrentan a imágenes con características parecidas.
Para demostrar este fenómeno, los investigadores crearon imágenes de "Ilusion-Ilusion" (ilusión de la ilusión) y las compararon con imágenes de ilusiones reales e imágenes de control (que eliminan los elementos distractores). Los resultados muestran que modelos como GPT-4, Claude3 y Gemini Pro tienen un alto grado de acierto al identificar ilusiones reales, pero fallan significativamente al clasificar las "Ilusion-Ilusion", confundiéndolas con ilusiones reales. Además, cuando se les indica explícitamente que una imagen es una ilusión, su precisión mejora en las ilusiones reales, pero empeora aún más en las "Ilusion-Ilusion" y las imágenes de control.
El autor concluye que este comportamiento se debe al "Potemkin Rate", donde la IA parece reconocer correctamente las ilusiones, pero en realidad está sufriendo "alucinaciones" debido al entrenamiento. Esta vulnerabilidad podría tener implicaciones en sistemas de navegación basados en IA, como los utilizados en automóviles autónomos, drones o aviones, ya que una mala interpretación de la información visual podría comprometer la seguridad física. Se menciona un caso de un Tesla hackeado mediante pegatinas que alteraban la lectura de las señales de tráfico, lo que ilustra el potencial de explotar estas debilidades.
Fuente Original: http://www.elladodelmal.com/2025/08/las-ilusiones-de-las-ilusiones-que.html
Artículos relacionados de LaRebelión
OpenAI frena una campaña para extraer el razonamiento de sus modelos
OpenAI detiene el entrenamiento de modelos avanzados
El uso malicioso de modelos de inteligencia artificialArtículo generado mediante LaRebelionBOT
Comentarios
Publicar un comentario