Google ha dado un paso significativo en el mundo de la inteligencia artificial con el lanzamiento de Gemma 4, una nueva generación de modelos de IA de código abierto. Estos modelos llegan en cuatro tamaños distintos, diseñados para ofrecer un rendimiento optimizado para su uso local, brindando a los desarrolladores una mayor flexibilidad y control.
Las variantes más grandes de Gemma 4, con 26B Mixture of Experts y 31B Dense, están pensadas para ejecutarse en hardware de gama alta como GPUs Nvidia H100. Sin embargo, Google ha puesto un gran énfasis en la reducción de la latencia, permitiendo que estos modelos funcionen eficientemente incluso cuando se cuantizan para GPUs de consumo. La arquitectura Mixture of Experts, en particular, solo activa una fracción de sus parámetros du rante la inferencia, lo que resulta en una velocidad de procesamiento de tokens considerablemente mayor en comparación con modelos de tamaño similar.
Para aquellos enfocados en dispositivos móviles y aplicaciones con recursos limitados, Gemma 4 presenta las opciones Effective 2B (E2B) y Effective 4B (E4B). Estos modelos están diseñados para un bajo consumo de memoria y batería, con un funcionamiento efectivo de 2 y 4 mil millones de parámetros respectivamente. La colaboración con Qualcomm y MediaTek ha permitido optimizar estos modelos para una amplia gama de dispositivos, desde smartphones hasta placas de desarrollo como Raspberry Pi y Jetson Nano, prometiendo una latencia cercana a cero.
Quizás uno de los anuncios más relevantes es el cambio de licencia. Google ha adoptado la licencia Apache 2.0 para Gemma 4, abandonando la licencia personalizada anterior. Esta decisión representa una mejora sustancial en términos de flexibilidad, eliminando restricciones c omerciales y otorgando a los desarrolladores el control total sobre sus datos, infraestructura y los modelos en sí. Expertos de la comunidad, como Clement Delangue de Hugging Face, han elogiado este movimiento como un hito importante que potenciará el ecosistema "Gemmaverse" de Google.
Artículos relacionados de LaRebelión:
- Google Lanza Gemma 4 Modelos Abiertos Revolucionarios
- Microsoft Lanza IA Propia Desafio Directo a OpenAI y Google
- Google Accelerates Post-Quantum Encryption Migration to 2029
- TurboQuant El Algoritmo de Google que Impacta la Memoria IA
- TurboQuant Google Reduce Memoria IA en 6x
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario