La creación de contenido multimedia avanzado, como imágenes y videos realistas, ha dependido históricamente de modelos de IA generativa que se apoyan en "tutores" externos para comprender el significado semántico. Sin embargo, esta dependencia ha creado un cuello de botella, limitando la mejora de los modelos a medida que escalan. Black Forest Labs, conocidos por su serie de modelos de imagen FLUX, presenta una solución revolucionaria: Self-Flow. Esta técnica de aprendizaje autosupervisado permite a los modelos de IA aprender representaciones y generar contenido de forma simultánea, eliminando la necesidad de supervisión externa.
El problema fundamental con el entrenamiento generativo tradicional es que se centra en eliminar el "ruido", incentivando al modelo a imitar la apariencia de una imagen en lugar de comprender su contenido intrínseco. Para superar esto, los investigadores han intentado alinear las características generativas con modelos externos discriminativos. Black Forest Labs argumenta que este enfoque es defectuoso, ya que los modelos externos a menudo operan con objetivos desalineados y fallan al generalizar entre diferentes modalidades (imágenes, video, audio). Self-Flow aborda esto introduciendo una "asimetría de información" mediante un mecanismo novedoso llamado Dual-Timestep Scheduling. Este sistema aplica distintos niveles de ruido a diferentes partes de los datos. La versión "estudiante" d el modelo recibe datos muy corruptos, mientras que la versión "profesora" (una media móvil exponencial del propio modelo) ve una versión más limpia. La tarea del estudiante es predecir lo que su yo "más limpio" está viendo, obligando al modelo a desarrollar una comprensión semántica profunda e interna.
Las implicaciones prácticas de Self-Flow son significativas. La investigación indica que converge aproximadamente 2.8 veces más rápido que los métodos actuales, sin mostrar una meseta en el rendimiento a medida que aumentan los recursos. Esto representa una reducción total de casi 50 veces en los pasos de entrenamiento necesarios para obtener resultados de alta calidad en comparación con el entrenamiento "vainilla". Un modelo multimodal de 4 mil millones de parámetros entrenado con Self-Flow ha demostrado mejoras notables en la legibilidad del texto en imágenes, la consistencia temporal en videos (eliminando artefactos) y la síntesis conjunta de video y audio, todo sin supervisión externa. Además, la técnica se ha aplicado con éxito en robótica, permitiendo la ejecución de tareas complejas que los modelos tradicionales no podían manejar, lo que sugiere un potencial para el desarrollo de "world models" que comprenden la física y la lógica subyacente de una escena. Black Forest Labs ha lanzado un conjunto de herramientas de inferencia en GitHub para que los investigadores puedan verificar estos hallazgos, abriendo la puerta a un futuro de IA más eficiente y capaz.
Fuente Original: https://venturebeat.com/technology/black-forest-labs-new-self-flow-technique-makes-training-multimodal-ai
Artículos relacionados de LaRebelión:
- Coches Electricos Mas Baratos que Gasolina en Africa
- OpenAI Mejora API Mas Habilidades y Terminal para Agentes
- Pivot Juego de Letras Rapido y Logico
- Mision Espacial Humana Mas Rapida Artemis II Cerca del Lanzamiento
- Cripto Mas de la mitad de las monedas fracasaron
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario