La startup de inteligencia artificial Liquid AI, fundada en 2023 por científicos del MIT, ha lanzado LFM2.5-2.6B, un innovador modelo de lenguaje diseñado específicamente para cargas de trabajo agénticas que funciona completamente en dispositivos locales. Este modelo de pesos abiertos puede ejecutarse desde smartphones y laptops hasta una Raspberry Pi, sin necesidad de infraestructura en la nube ni GPUs, abriendo nuevas posibilidades para aplicaciones de IA en el borde y ofreciendo opciones valiosas para empresas en industrias reguladas o con información sensible.
Con 2.6 mil millones de parámetros, el modelo soporta una ventana de contexto de 128,000 tokens e incluye llamadas nativas a herramientas. Está optimizado para tareas agénticas de alto volumen y bien definidas que se ejecutan localmente, como llamadas a herramientas, gestión de documentos, automatización de calendario y flujos de trabajo, así como rutinas de fondo siempre activas. Es especialmente útil para entornos con conectividad limitada como vehículos y robótica, aunque las tareas de programación intensiva se manejan mejor con modelos más grandes.
El rendimiento del modelo es notable: alcanza aproximadamente 220 tokens por segundo en un Apple M5 Max, 113 tokens por segundo en un AMD Ryzen AI Max+ 395, y alrededor de 30 tokens por segundo en un smartphone, todo mientras usa menos de 2.5 GB de memoria. Maxime Labonne, jefe de post-entrenamiento de Liquid AI, confirmó que el modelo funciona excepcionalmente bien en CPUs y destacó que la arquitectura LFM2 fue diseñada explícitamente alrededor del rendimiento real de CPU en lugar de benchmarks de GPU.
Lo que distingue a LFM2.5-2.6B es su enfoque en agentes en lugar de chatbots. El modelo fue pre-entrenado con aproximadamente 34 billones de tokens y siguió un pipeline de post-entrenamiento de cuatro etapas, culminando en aprendizaje por refuerzo agéntico donde fue entrenado directamente dentro de marcos de agentes de producción como Hermes Agent y OpenClaw. Liquid AI también construyó su propio marco de agente que funciona en teléfonos, permitiendo asistentes proactivos que actúan en segundo plano sin esperar indicaciones del usuario.
En comparación con competidores como Google Gemma 4, Alibaba Qwen3.5 y DeepSeek-V4-Flash, LFM2.5-2.6B lidera en benchmarks de seguimiento de instrucciones y uso de herramientas, superando a modelos hasta cuatro veces más grandes. Una prueba independiente mostró que completó 35 llamadas a herramientas 3.7 veces más rápido que DeepSeek-V4-Flash. Sin embargo, el modelo se distribuye bajo la Licencia Abierta LFM v1.0, que permite uso comercial solo para organizaciones con menos de 10 millones de dólares en ingresos anuales, requiriendo acuerdos separados para empresas más grandes, a diferencia de las licencias Apache 2.0 y MIT de sus competidores.
El lanzamiento coincidió con un anuncio de asociación estratégica con MacPaw para construir un stack de IA en dispositivo para Mac. Para empresas, el modelo representa un cambio económico significativo: en lugar de entrenar múltiples modelos especializados, pueden reutilizar el mismo modelo cambiando solo las herramientas y el marco alrededor de él, reduciendo costos y aumentando la flexibilidad de implementación.
Artículos relacionados de LaRebelión:
- IA Nuevos Riesgos de Privacidad Sin Fugas de Datos
- Gigantes Tech Defienden Modelos IA Abiertos Sin Restricciones
- AMD Invierte 5B en Anthropic con GPUs Helios
- IA GPUs Subutilizadas Costos Elevados y Desafios Empresariales
- Hy3 de Tencent IA Potente Licencia Abierta Menor Tamano
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario