El artículo explora cómo los modelos visuales de inteligencia artificial, a pesar de no tener una "percepción" humana, se ven afectados por las ilusiones ópticas. Estas ilusiones, que engañan a nuestros cerebros manipulando la información visual, representan un desafío para la IA, ya que deben reconocerlas para entender el contexto de lo que están "viendo".
El autor destaca un estudio llamado "The Illusion-Illusion: Vision Language Models See Illusions Where There are None", el cual revela que, al entrenar a los modelos de IA para identificar ilusiones ópticas, estos terminan "viendo" ilusiones donde no las hay. Esto se debe a que los modelos aprenden a reconocer patrones similares a las ilusiones, lo que los lleva a errores de clasificación cuando se enfrentan a imágenes con características parecidas.
Para demostrar este fenómeno, los investigadores crearon imágenes de "Ilusion-Ilusion" (ilusión de la ilusión) y las compararon con imágenes de ilusiones reales e imágenes de control (que eliminan los elementos distractores). Los resultados muestran que modelos como GPT-4, Claude3 y Gemini Pro tienen un alto grado de acierto al identificar ilusiones reales, pero fallan significativamente al clasificar las "Ilusion-Ilusion", confundiéndolas con ilusiones reales. Además, cuando se les indica explícitamente que una imagen es una ilusión, su precisión mejora en las ilusiones reales, pero empeora aún más en las "Ilusion-Ilusion" y las imágenes de control.
El autor concluye que este comportamiento se debe al "Potemkin Rate", donde la IA parece reconocer correctamente las ilusiones, pero en realidad está sufriendo "alucinaciones" debido al entrenamiento. Esta vulnerabilidad podría tener implicaciones en sistemas de navegación basados en IA, como los utilizados en automóviles autónomos, drones o aviones, ya que una mala interpretación de la información visual podría comprometer la seguridad física. Se menciona un caso de un Tesla hackeado mediante pegatinas que alteraban la lectura de las señales de tráfico, lo que ilustra el potencial de explotar estas debilidades.
Fuente Original: http://www.elladodelmal.com/2025/08/las-ilusiones-de-las-ilusiones-que.html
Artículos relacionados de LaRebelión:
- El Futuro del E-commerce ya esta Aqui Vendedores Virtuales Chinos Superan a los Humanos en Ventas
- Cuidado con los Purificadores de Aire Estudio Revela Falta de Pruebas en Humanos Realmente Fun...
- Alerta 95 de los Proyectos Piloto de IA Generativa Fracasan Por Que Ocurre y Como Evitarlo
- SoftBank invierte 2 mil millones en Intel Impulso para el Gigante de los Chips en la Era de la IA
- Duplica tu Creatividad Google Aumenta los Creditos de IA para Flow y Expande Whisk
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario