Paquete LiteLLM Secuestrado Robo de Credenciales Peligroso

¡Atención desarrolladores! Un grave incidente de seguridad ha sacudido la comunidad Python. El popular paquete LiteLLM, utilizado por millones para interactuar con modelos de lenguaje grandes (LLMs), ha sido comprometido por el grupo de hackers TeamPCP. Las versiones maliciosas, LiteLLM 1.82.7 y 1.82.8, fueron publicadas en el repositorio PyPI, insertando un 'infostealer' diseñado para robar una amplia gama de datos sensibles de cientos de miles de dispositivos.

LiteLLM, conocido por su versatilidad al actuar como una puerta de enlace para múltiples proveedores de LLMs a través de una única API, es descargado por millones de usuarios diariamente. La gravedad del ataque radica en la masiva adopción del paquete, lo que significa que la información comprometida podría ser extensa. Afortunadamente, las versiones maliciosas ya han sido retiradas de PyPI, y la versión limpia más reciente es la 1.82.6.

Si tu organización o tú mismo utilizáis LiteLLM, es crucial actuar de inmediato. Se recomienda encarecidamente verificar si se han instalado las versiones afectadas (1.82.7 u 1.82.8). En caso de sospecha de compromiso, se deben rotar urgentemente todas las credenciales, secretos y tokens utilizados en los sistemas afectados. Además, se aconseja buscar artefactos de persistencia, como archivos sospechosos y servicios no autorizados, así como monitorear el tráfico de red saliente hacia dominios conocidos de atacantes. La rápida respuesta es vital para mitigar el impacto de este sofisticado ataque a la cadena de suministro.

Fuente Original: https://it.slashdot.org/story/26/03/27/1527202/popular-litellm-pypi-package-backdoored-to-steal-credentials-auth-tokens?utm_source=rss1.0mainlinkanon&utm_medium=feed

Artículos relacionados de LaRebelión:

• NPM Roba Credenciales macOS Peligro Oculto
• IA de ByteDance Robo de IP o Herramienta Revolucionaria
• Nest Google Recupera Borrados Video Robo Caso
• Bancos de EEUU Ciberataque y Robo de Datos
• Shai-Hulud Gusano roba credenciales en paquetes npm

Artículo generado mediante LaRebelionBOT

OpenAIs ChatGPT Ads 100M Revenue in 6 Weeks

In a remarkable display of early success, OpenAI's experimental advertising pilot on ChatGPT in the United States has already generated an impressive annualized revenue of over $100 million, achieving this milestone in just six weeks since its launch. This rapid uptake highlights a strong initial demand for OpenAI's foray into the advertising sector, demonstrating the potential for AI-driven platforms to attract advertisers.

The spokesperson for OpenAI indicated that while a significant portion of users (around 85%) are currently eligible to see ads, only a fraction (under 20%) are exposed to them daily. This suggests substantial room for growth in ad monetization by tapping into the existing user base. Importantly, OpenAI reported that this new advertising initiative has had no negat ive impact on consumer trust metrics. They've observed low ad dismissal rates and continuous improvements in ad relevance as they incorporate user feedback.

Looking ahead, OpenAI plans to roll out this advertising test to other countries in the coming weeks, with initial expansions set for Australia, New Zealand, and Canada. The platform has already attracted over 600 advertisers, and a notable 80% of small and medium-sized businesses have expressed interest in advertising on ChatGPT. To further facilitate growth and accessibility, OpenAI is scheduled to introduce self-serve advertiser capabilities in April. This strategic move by OpenAI, spearheaded by CEO Sam Altman who had previously been hesitant about ads as a business model, signifies a significant shift and a promising new revenue stream for the AI giant.

Fuente Original: https://news.slashdot.org/story/26/03/28/0231232/openais-us-ad-pilot-exceeds-100-million-in-annualized-revenue-in-six-weeks?utm_source=rss1.0mainlinkanon&utm_medium=feed

Artículos relacionados de LaRebelión:

• Alibabas Tiny AI Model Outshines OpenAIs
• ChatGPT expone correos corporativos Riesgos OAuth Entra ID
• News Orgs Gain ChatGPT Logs Demand More Deleted Data
• OpenAIs Audio AI Voice Models Hardware Coming
• ChatGPT Por Fin Domina la Raya

Artículo generado mediante LaRebelionBOT

SoftBank Prestamo Gigante de 40B para Apostar a OpenAI

SoftBank ha dado un paso audaz y de gran envergadura al asegurar un préstamo puente de 40 mil millones de dólares, la operación de crédito denominada en dólares más grande de su historia. Este movimiento financiero está destinado principalmente a respaldar su continua y creciente inversión en OpenAI, la destacada empresa de inteligencia artificial. El préstamo, que no requiere colateral y ha sido orquestado con la participación de instituciones financieras de renombre como JPMorgan Chase, Goldman Sachs, Mizuho, SMBC y MUFG, tiene como fecha de vencimiento marzo de 2027.

La magnitud de esta operación refleja la ambición de Masayoshi Son, CEO de SoftBank, quien no teme pensar en grande. Sin embargo, la velocidad y la escala de esta apuesta por OpenAI han comenzado a generar inquietud entre las agencias de calificación crediticia. Con este préstamo, SoftBank planea desembolsar 30 mil millones de dólares adicionales en OpenAI como parte de su ronda de financiación actual. Al completar esta inversión, la participación acumulada de SoftBank en OpenAI ascenderá a aproximadamente 64.6 mil millones de dólares, lo que representará alrededor del 13% de la compañía.

Este préstamo puente es fundamental para que SoftBank pueda cumplir con su compromiso de inversión en OpenAI, que busca recaudar un total de 110 mil millones de dólares. La estrategia de Son para financiar estas inversiones pasadas ya ha implicado la liquidación de otras participaciones valiosas, incluida su posición en Nvidia. La apuesta por OpenAI se presenta como una jugada concentrada y de alto riesgo, con la es peranza de que la inteligencia artificial generativa genere los retornos necesarios para justificar el elevado apalancamiento financiero. La S&P ha rebajado recientemente su perspectiva crediticia sobre SoftBank, citando preocupaciones sobre la exposición a OpenAI y su posible impacto en la liquidez y la calidad crediticia de sus activos. Paralelamente, este préstamo también forma parte de los planes de SoftBank para invertir 100 mil millones de dólares en infraestructura de IA en Estados Unidos durante los próximos cuatro años, en línea con iniciativas más amplias del sector.

Fuente Original: https://thenextweb.com/news/softbank-40-billion-bridge-loan-openai

Artículos relacionados de LaRebelión:

• Bezos Busca 100 mil millones para IA en Manufactura
• Casa Blanca lanza directrices IA para el Congreso
• OpenAI Acquires Astrals Popular Python Development Tools
• Mistral AI Lanza Forge para Entrenar Modelos Propios
• Britannica demanda a OpenAI por plagio y marca registrada

Artículo generado mediante LaRebelionBOT

IndexCache Inferencia 82 Mas Rapida en IA

Procesar 200,000 tokens a través de un modelo de lenguaje grande es costoso y lento: cuanto más largo es el contexto, más rápido se disparan los costos. Investigadores de la Universidad de Tsinghua y Z.ai han desarrollado una técnica llamada IndexCache que elimina hasta el 75% de la computación redundante en modelos de atención dispersa, logrando una velocidad hasta 1.82 veces más rápida en el tiempo hasta el primer token y 1.48 veces más rápida en el rendimiento de generación con esa longitud de contexto.

Los modelos de lenguaje grandes dependen del mecanismo de autoatención, donde el modelo calcula la relación entre cada token en su contexto y todos los anteriores para predecir el siguiente. Sin embargo, esta autoatención tiene una limitación severa: su complejidad computacional escala de manera cuadrática con la longitud de la secuencia. La atención dispersa ofrece una solución al hacer que cada consulta seleccione y atienda solo al subconjunto más relevante de tokens. La arquitectura DeepSeek Sparse Attention (DSA) implementa este concepto mediante un módulo indexador ligero que califica los tokens anteriores y selecciona un pequeño lote para procesarlo.

Los investigadores identificaron un problema persistente: el indexador DSA aún opera con complejidad cuadrática en cada capa. A medida que crece la longitud del contexto, el tiempo que el modelo pasa ejecutando estos indexadores se dispara. Para resolver este cuello de botella, el equipo descubrió que el subconjunto de tokens importantes que selecciona un indexador permanece notablemente estable a través de capas consecutivas del transformador, con capas adyacentes compartiendo entre el 70% y el 100% de sus tokens seleccionados.

IndexCache capitaliza esta redundancia dividiendo las capas del modelo en dos categorías: capas completas (F) que mantienen sus indexadores activos calculando y almacenando en caché los tokens más importantes, y capas compartidas (S) que no realizan indexación y reutilizan los índices almacenados de la capa F anterior más cercana. Los investigadores desarrollaron dos enfoques de implementación: un método sin entrenamiento que utiliza un algoritmo de selección de capas y un método consciente del entrenamiento que optimiza los parámetros de la red.

En pruebas con el modelo GLM-4.7 Flash de 30 mil millones de parámetros, IndexCache redujo la latencia de prellenado de 19.5 segundos a solo 10.7 segundos en un contexto de 200K, logrando una aceleración de 1.82 veces. Durante la fase de decodificación, el rendimiento aumentó de 58 a 86 tokens por segundo, una mejora de 1.48 veces. Estas ganancias de eficiencia se traducen directamente en ahorros de costos: los equipos empresariales observan al menos una reducción aproximada del 20% en los costos de implementación para cargas de trabajo de contexto largo como RAG, análisis de documentos y flujos de trabajo agénticos.

Notablemente, estas ganancias de eficiencia no comprometieron las capacidades de razonamiento. El modelo optimizado igualó el puntaje promedio del original en benchmarks de contexto largo e incluso superó al original en el complejo benchmark de razonamiento matemático AIME 2025. Los parches de código abierto ya están disponibles en GitHub para los principales motores de servicio como vLLM y SGLang, permitiendo a los desarrolladores integrar IndexCache con cambios mínimos de configuración.

Fuente Original: https://venturebeat.com/technology/indexcache-a-new-sparse-attention-optimizer-delivers-1-82x-faster-inference

Artículos relacionados de LaRebelión:

• IA Multimodal Entrenamiento 28x Mas Rapido y Eficiente
• Coches Electricos Mas Baratos que Gasolina en Africa
• OpenAI Mejora API Mas Habilidades y Terminal para Agentes
• Mision Espacial Humana Mas Rapida Artemis II Cerca del Lanzamiento
• Cripto Mas de la mitad de las monedas fracasaron

Artículo generado mediante LaRebelionBOT

Google Accelerates Post-Quantum Encryption Migration to 2029

Google has announced a significant acceleration of its post-quantum cryptography migration timeline, moving the target date forward to 2029. This ambitious deadline represents a major shift from the previous 2035 timeline recommended by the National Institute for Standards and Technology (NIST), reflecting growing concerns about advances in quantum computing capabilities that could potentially compromise current encryption methods.

The decision to expedite this transition comes in response to rapid progress in quantum computing hardware development, quantum error correction techniques, and refined estimates of quantum factoring resources. Heather Adkins, vice president of security engineering, and Sophie Schmieg, senior staff cryptology engineer, emphasised that this updated timeline is crucial for protecting digital infrastructure in the post-quantum computing era. The company is systematically replacing outdated encryption across all its devices, systems, and data with new algorithms that have been rigorously vetted by NIST over the past decade.

These next-generation cryptographic algorithms have been specifically designed to withstand attacks from quantum computers, which threaten to render current encryption standards obsolete. Whilst Google remains confident it can migrate its own systems well ahead of schedule, the company is urging private businesses and other organisations to treat this timeline as a wake-up call. Unlike federal government entities, private sector companies face no mandate to adopt quantum-resistant encryption, which leaves significant portions of digital infrastructure potentially vulnerable.

Google's leadership has positioned the company as both a pioneer in quantum computing research and post-quantum cryptography implementation. By publicly committing to this accelerated timeline, Google aims to provide the clarity and urgency needed to catalyse industry-wide digital transitions. The company hopes that its aggressive timeframe will encourage other businesses to follow suit, recognising the critical importance of proactive preparation rather than reactive scrambling when quantum computing threats become imminent. This leadership-by-example approach underscores the collective responsibility to secure digital infrastructure before quantum computers capable of breaking current encryption become a reality.

Fuente Original: https://it.slashdot.org/story/26/03/27/2123239/google-moves-post-quantum-encryption-timeline-up-to-2029?utm_source=rss1.0mainlinkanon&utm_medium=feed

Artículos relacionados de LaRebelión:

• TurboQuant El Algoritmo de Google que Impacta la Memoria IA
• TurboQuant Google Reduce Memoria IA en 6x
• Redesigning La Rebelion with Material Design 3: A Google Blog-Inspired Makeover
• Google Lanza Agente de Memoria Persistente Sin Bases Vectoriales
• Motorola Adopta GrapheneOS Privacidad Sin Google

Artículo generado mediante LaRebelionBOT

Langflow Fallo Critico Permite Secuestro de Flujos IA

La Agencia de Ciberseguridad y Seguridad de la Infraestructura (CISA) ha emitido una seria advertencia sobre la explotación activa de una vulnerabilidad crítica (CVE-2026-33017) en Langflow, un popular framework de código abierto para la creación de flujos de trabajo de Inteligencia Artificial. Este fallo, con una calificación de gravedad CVSS de 9.3, permite a atacantes no autenticados ejecutar código de forma remota (RCE) a través de una simple petición HTTP. Esto significa que un atacante podría tomar el control total del sistema donde se ejecute Langflow, accediendo a datos sensibles, credenciales y secretos.

La vulnerabilidad reside en la forma en que Langflow maneja la creación y ejecución de 'public flows', especialmente la falta de un robusto mecanismo de 'sandboxing'. En la práctica, esto convierte una herramienta diseñada para acelerar la prototipación y automatización de IA en una puerta de entrada para ciberdelincuentes. Dado que Langflow a menudo se integra con Modelos de Lenguaje Grandes (LLMs), bases de datos y servicios en la nube, una brecha exitosa puede tener consecuencias devastadoras, incluyendo robo de información, movimiento lateral dentro de la red corporativa y exfiltración de datos.

La inclusión de esta vulnerabilidad en el catálogo 'Known Exploited Vulnerabilities' (KEV) de CISA subraya que ya se está explotando en el mundo real. La agencia ha establecido un plazo para que las agencias federales apliquen parches o mitigaciones, pero esta recomendación es una señal clara para todas las organizaciones que utilizan Langflow. La solución principal es actualizar a Langflow 1.9.0 o una versión superior. Si la actualización inmediata no es posible, se recomienda encarecidamente no exponer el servicio a Internet, restringir el acceso al endpoint vulnerable, monitorear el tráfico saliente en busca de anomalías y, en caso de sospecha de compromiso, rotar inmediatamente todas las credenciales y claves de acceso. La rápida operacionalización de ataques observada por Sysdig demuestra la urgencia de tomar medidas.

Fuente Original: https://unaaldia.hispasec.com/2026/03/cisa-alerta-de-explotacion-activa-de-un-fallo-critico-en-langflow-que-permite-secuestrar-flujos-de-ia.html?utm_source=rss&utm_medium=rss&utm_campaign=cisa-alerta-de-explotacion-activa-de-un-fallo-critico-en-langflow-que-permite-secuestrar-flujos-de-ia

Artículo generado mediante LaRebelionBOT

Secure Your Web Cloud WAF Configuration Monitoring Guide

In today's increasingly dangerous internet landscape, simply having a Web Application Firewall (WAF) isn't enough. This article highlights that while major cyber incidents like ransomware attacks and data breaches grab headlines, the constant barrage of automated scans and attacks against web services often goes unnoticed. Companies might be unaware that their web presence is under continuous assault. Cloudflare alone blocks over 230 billion threats daily, underscoring the aggressive nature of the online environment.

The key takeaway is that a WAF's effectiveness hinges entirely on proper configuration and ongoing management. Without active monitoring and rule adjustments, a WAF can fail to block malicious traffic. The article uses the example of VapaSec, which, after initial deployment, detected thousands of security events before implementing active WAF management. Once proper configuration was in place, daily security events were drastically reduced. This underscores that the internet is a perpetual scanner; simply being connected makes you a target for automated, persistent attacks seeking vulnerable systems for various illicit purposes.

The author stresses that attackers often operate through mass, automated scans, looking for exploitable weaknesses like unsecured configuration files or brute-force login attempts, rather than performing highly targeted attacks. Traditional on-premise security solutions can be resource-intensive and may not fully protect against sophisticated threats. Cloud-based WAFs, like Cloudflare WAF, offer a more efficient and resilient approach by filtering threats before they reach the infrastructure. However, it's crucial to understand that migrating to a platform like Cloudflare doesn't automatically grant high security; active configuration and policy management are paramount. Simple steps like enabling the proxy to mask the origin IP, blocking traffic from non-business countries, and creating rules to filter automated scripts and suspicious IPs are vital. For organisations struggling with manual WAF management, solutions like VapaSec Web Protection automate and enhance this process, of fering multi-layered protection, IP reputation scoring, collective intelligence, and real-time threat mitigation.

Fuente Original: http://www.elladodelmal.com/2026/03/como-configurar-y-monitorizar-un-cloud.html

Artículo generado mediante LaRebelionBOT

Xero y Claude IA Revoluciona Finanzas PYMES

La plataforma contable Xero ha anunciado una alianza estratégica de varios años con Anthropic, la empresa detrás del chatbot de inteligencia artificial Claude. Esta colaboración va más allá de integrar Claude en Xero; llevará los datos financieros de Xero directamente a la interfaz de Claude.ai. El objetivo es permitir a los pequeños empresarios realizar consultas sobre su flujo de caja, facturas pendientes y márgenes de beneficio sin necesidad de salir del chatbot.

La integración funcionará en dos direcciones. Por un lado, el asistente de IA de Xero, JAX, se potenciará con las capacidades de razonamiento de Claude para automatizar tareas como el seguimiento del flujo de caja, el análisis del rendimiento de ingresos y beneficios, y la sugerencia de acciones. Por otro lado, los usuarios podrán conectar sus cuentas de Xero a Claude.ai para trabajar con datos financieros en tiempo real, facilitando la planificación empresarial, la modelización de escenarios y el análisis anual, todo ello sin cambiar de aplicación.

Esta asociación es notable por su enfoque estratégico. Xero ya colabora con OpenAI para la investigación web y ahora recurre a Anthropic para el razonamiento financiero y la automatización de flujos de trabajo. Esta estrategia multimodelo busca evitar la dependencia de un único proveedor de IA, aprovechando las fortalezas de cada uno y manteniendo poder de negociación. Xero actúa como una capa de orquestación, JAX, coordinando diferentes agentes de IA para ejecutar tareas.

Para Anthropic, esta alianza es parte de su expansión empresarial. La integración de Xero representa una apuesta por incrustar su IA en plataformas SaaS verticales, llegando a millones de pequeñas empresas. La parte más interesante es la posibilidad de que Claude se convierta en la interfaz principal para la gestión financiera de las PYMES. Al integrar datos de Xero junto con otra información que el usuario aporte, Claude se posiciona como un entorno de razonamiento general. Esto permite a Xero alcanzar a sus usuarios donde ya pasan la mayor parte de su tiempo, ofreciendo sus insights de manera conversacional, lo cual representa una ventaja de distribución significativa.

El éxito de esta colaboración dependerá de la confianza. La gestión de datos financieros sensibles requiere un alto nivel de seguridad y confidencialidad, y Xero asegura que los datos se usarán solo para la sesión del usuario y no para entrenar los modelos de Claude. La precisión de la IA también será crucial; los errores en análisis financieros pueden tener consecuencias graves para los negocios. Xero confía en que esta integración aliviará la carga administrativa, pero la fiabilidad de los agentes de IA será puesta a prueba.

Fuente Original: https://thenextweb.com/news/xero-anthropic-claude-small-business-financial-ai

Artículo generado mediante LaRebelionBOT

Fallas Criticas en LangChain Exponen Datos Sensibles

Investigadores de seguridad han descubierto vulnerabilidades graves en LangChain y LangGraph, dos de los frameworks de inteligencia artificial más utilizados en la actualidad. Estas fallas de seguridad podrían permitir a atacantes acceder a archivos confidenciales, secretos de aplicaciones y bases de datos completas, poniendo en riesgo a miles de desarrolladores y empresas que dependen de estas herramientas para construir aplicaciones basadas en IA.

LangChain es un framework ampliamente adoptado que facilita el desarrollo de aplicaciones impulsadas por modelos de lenguaje de gran escala. LangGraph, por su parte, es una extensión que permite crear flujos de trabajo complejos con estos modelos. Ambas herramientas son fundamentales en el ecosistema actual de desarrollo de IA, lo que hace que estas vulnerabilidades sean especialmente preocupantes debido a su potencial impacto masivo en la industria tecnológica.

Las fallas identificadas podrían ser explotadas por actores maliciosos para obtener acceso no autorizado a información sensible almacenada en sistemas que utilizan estos frameworks. Esto incluye credenciales de seguridad, claves API, datos de usuarios y otra información crítica que normalmente debería permanecer protegida. La exposición de bases de datos completas representa un riesgo particularmente grave, ya que podría comprometer la privacidad de millones de usuarios finales.

Los expertos en ciberseguridad recomiendan que los desarrolladores que utilizan LangChain o LangGraph actualicen sus sistemas inmediatamente y revisen sus configuraciones de seguridad. Es fundamental implementar medidas adicionales de protección mientras se espera que los mantenedores de estos frameworks publiquen parches oficiales para corregir estas vulnerabilidades. Esta situación subraya la importancia crítica de mantener prácticas sólidas de seguridad en el desarrollo de aplicaciones de IA, especialmente cuando se trabaja con frameworks de código abierto ampliamente distribuidos.

Fuente Original: https://news.google.com/rss/articles/CBMigwFBVV95cUxQaWx0Q3VrdGRkMjM5R3dsUjdneWZaZlNaM21YNC1nRS1paEUtUmJrU0h1X2RONXA2RTZrSnRGVFk4QVAtd21pbGZET1NVb0xlU1lYS0NhSFJiWk51M211S2NDaUtjWFNoaDlSNWZaWmRWaHZoU1BtZFB4Yk84Y0ZDcjJQMA?oc=5

Artículo generado mediante LaRebelionBOT

Mozilla and Mila Champion Open Source AI

In a bold move that challenges Big Tech's dominance, Mozilla has partnered with Mila, the Quebec Artificial Intelligence Institute, to advance open source AI development. This collaboration appears to be a strategic response to the increasing control that major technology corporations exert over the AI landscape through closed, proprietary models.

The partnership centres on creating what they term "sovereign AI" – systems that prioritise transparency, privacy protection, and genuine control for developers and governments alike. Rather than relying on black-box algorithms controlled by a handful of tech giants, this initiative aims to democratise AI technology and make it accessible to a broader range of users and institutions.

One of the initial focus areas involves developing private memory capabilities for AI agents. Whilst this may sound like a niche technical feature, it carries significant implications for data privacy and security. For users concerned about where their personal information goes and how it's utilised, such features could prove crucial in building trust in AI systems.

Valerie Pisano, president and CEO of Mila, expressed confidence in Canada's potential to lead in trustworthy AI development. She emphasised that the nation possesses the necessary research expertise, ethical values, and determination to approach AI differently. Pisano argued that the next frontier in artificial intelligence isn't merely about raw capability, but about trustworthiness – and that Canada is uniquely positioned to excel in both areas. She firmly stated that open, trustworthy AI represents not a compromise, but rather a higher standard of ambition.

The central question facing this initiative is whether open source approaches can realistically compete with the billions of pounds being invested in proprietary AI systems by well-funded corporations. However, the partnership represents a meaningful attempt to provide alternatives for those who value transparency and control over their AI tools. As Big Tech continues to consolidate power in the AI sector, initiatives like this offer a different path forward for the technology's development.

Fuente Original: https://tech.slashdot.org/story/26/03/26/1827208/mozilla-and-mila-team-up-on-open-source-ai-push?utm_source=rss1.0mainlinkanon&utm_medium=feed

Artículo generado mediante LaRebelionBOT

TurboQuant El Algoritmo de Google que Impacta la Memoria IA

Google ha desatado una revolución en el mundo de la inteligencia artificial con la presentación de TurboQuant, un innovador algoritmo de compresión para modelos de IA. Este avance ha tenido un impacto inmediato en el mercado, provocando caídas en las acciones de empresas de memoria como Micron, Western Digital y SanDisk apenas horas después de su publicación. La razón es clara: TurboQuant promete reducir drásticamente la necesidad de memoria física en la industria de la IA, obligando a los inversores a reevaluar sus proyecciones.

El núcleo de la innovación de TurboQuant reside en su capacidad para optimizar la 'key-value cache', un componente crucial y costoso para el funcionamiento de modelos de lenguaje avanzados. Esta caché almacena información contextual para evitar recálculos constantes, pero su tamaño puede crecer exponencialmente con entradas más largas, consumiendo valiosa memoria de GPU. TurboQuant aborda este cuello de botella comprimiendo esta caché a tan solo 3 bits por valor, una reducción de más de seis veces respecto al estándar de 16 bits, y lo más impresionante, sin una pérdida medible de precisión. Esto se logra a través de un proceso de dos etapas: PolarQuant, que transforma los datos a coordenadas polares para eliminar pasos de normalización costosos, y QJL, que minimiza el error residual.

Las pruebas realizadas por Google en diversos benchmarks y con modelos de código abierto han demostrado que TurboQuant no solo iguala sino que a menudo supera a las técnicas de compresión existentes. En tareas de recuper ación de información específica dentro de largos textos, TurboQuant alcanzó puntuaciones perfectas, mientras que en GPUs Nvidia H100, ofreció una aceleración de hasta ocho veces en la computación de atención. Si bien algunos analistas advierten que la demanda general de memoria de IA sigue siendo fuerte y que la compresión no eliminará por completo los costos de infraestructura, la eficiencia que aporta TurboQuant podría redefinir la economía de la inferencia de IA, un gasto recurrente clave para la viabilidad de productos de IA a gran escala. Más allá de los modelos de lenguaje, este algoritmo también mejora la búsqueda vectorial, una tecnología fundamental para los servicios principales de Google y su fuente de ingresos.

Fuente Original: https://thenextweb.com/news/google-turboquant-ai-compression-memory-stocks

Artículo generado mediante LaReb elionBOT

Mistral AIs Voxtral TTS Free Weights Superior Voice AI

Mistral AI has entered the competitive enterprise voice AI market with a bold move: the release of Voxtral TTS, a frontier-quality, open-weight text-to-speech model. Unlike major players like ElevenLabs, Google Cloud, and OpenAI who offer proprietary, API-first solutions, Mistral is providing the full model weights for free. This allows enterprises to download, run, and control the model on their own infrastructure, fostering greater data sovereignty and reducing reliance on third-party providers. This strategic release is part of Mistral's broader effort to build a comprehensive, enterprise-owned AI stack, complementing their existing Forge customization platform and AI Studio production infrastructure.

Voxtral TTS is designed with efficiency and accessibility in mind. It's a remarkably compact 3-billion-parameter model that can run on a laptop or even a smartphone, generating speech six times faster than real-time and requiring only about three gigabytes of RAM when quantized. This efficiency, coupled with its support for nine languages and an impressive ability for zero-shot cross-lingual voice adaptation, makes it a powerful tool for multinational organisations. Mistral claims that human evaluators preferred Voxtral TTS over ElevenLabs' flagship voices in nearly 70% of voice customization tasks, positioning it as a strong contender capable of matching or exceeding established benchmarks in quality and customisation, all while offering significant cost and control advantages.

Mistral's open-weight approach is a deliberate strategy to empower businesses to own their AI infrastructure rather than rent it. This resonates particularly in Europe, where concerns about technological dependence are growing. By offering a high-quality, customisable, and cost-effective voice AI solution that can be deployed on-premises, Mistral aims to become the go-to European alternative for enterprises seeking control over sensitive data like voice recordings. Voxtral TTS is the final piece in Mistral's meticulously assembled end-to-end audio AI pipeline, which includes speech-to-text and reasoning models, enabling powerful applications such as advanced voice agents for customer support, sales, and real-time translation, all with enhanced conversational fluidity and responsiveness.

Fuente Original: https://venturebeat.com/orchestration/mistral-ai-just-released-a-text-to-speech-model-it-says-beats-elevenlabs-and

Artículo generado mediante LaRebelionBOT

Centros de Datos Gigantes GW y TW Reemplazan Servidores

Los centros de datos de Inteligencia Artificial han alcanzado dimensiones colosales, y ya no se miden por la cantidad de servidores que albergan, sino por su consumo energético, expresado en Gigavatios (GW) y Teravatios (TW). Esta métrica es crucial porque la capacidad de proporcionar electricidad, disipar el calor generado y la infraestructura de red son los verdaderos cuellos de botella. Un centro de datos de 1 GW tiene una demanda eléctrica comparable a la de una ciudad de un millón de habitantes, lo que pone de manifiesto su escala sin precedentes.

Empresas como Meta están a la vanguardia, construyendo instalaciones masivas como Hyperion en Luisiana, proyectado para alcanzar los 2 GW y con potencial para 5 GW. Este campus ocupa una extensión comparable a una cuarta parte de Manh attan y podría albergar más de 41.000 racks con millones de GPUs. Por otro lado, Elon Musk, a través de una joint venture entre Tesla, SpaceX y xAI, planea la "Terafab", una fábrica de chips que requeriría cientos de gigavatios para sus operaciones terrestres y hasta 1 TW para su visión de procesamiento espacial. Incluso SpaceX ha solicitado permiso para lanzar hasta un millón de satélites-datacenter al espacio, argumentando la ventaja del frío, aunque surgen desafíos significativos en cuanto a disipación de calor, lanzamiento y mantenimiento.

La magnitud de estos proyectos implica repensar la ingeniería y la construcción tradicionales. Los suelos deben soportar cargas mucho mayores, se utilizan paneles de hormigón de gran longitud y los plazos de construcción se han reducido drásticamente. El principal desafío reside en la energía. Hyperion, por ejemplo, necesitará la construcción de tres centrales de gas de 2.2 GW para su funcionamiento, lo que acarrea im portantes emisiones de CO₂ y un considerable uso de cemento, exacerbando el impacto ambiental de la industria. La situación es tan extrema que algunos políticos solicitan la detención de la construcción de nuevos centros de datos para IA, ante la aparente estrategia de las grandes corporaciones de escalar a toda costa, consumir más y construir más rápido, planteando un panorama incierto sobre la sostenibilidad a largo plazo.

Fuente Original: https://www.microsiervos.com/archivo/tecnologia/centros-datos-todo-mide-gw-tw-servidores.html

Artículo generado mediante LaRebelionBOT

TurboQuant Google Reduce Memoria IA en 6x

Los modelos de inteligencia artificial generativa requieren cantidades masivas de memoria para funcionar, lo que ha convertido la RAM en un recurso costoso y difícil de adquirir. Google Research ha presentado TurboQuant, un innovador algoritmo de compresión que promete revolucionar el panorama al reducir drásticamente el uso de memoria de los grandes modelos de lenguaje (LLMs) hasta seis veces, mientras mejora simultáneamente la velocidad de procesamiento sin comprometer la calidad de los resultados.

El objetivo principal de TurboQuant es optimizar el tamaño de la caché de clave-valor, que Google describe como una "hoja de trucos digital" donde se almacena información importante para evitar cálculos repetitivos. Esta caché es esencial porque los LLMs no poseen conocimiento real, sino que simulan comprensión mediante vectores que mapean el significado semántico del texto tokenizado. Los vectores de alta dimensión, con cientos o miles de incrustaciones, ocupan enormes cantidades de memoria y crean cuellos de botella en el rendimiento del sistema.

La solución de Google se implementa en dos pasos complementarios. Primero, utiliza PolarQuant, un sistema que convierte los vectores de coordenadas cartesianas estándar a coordenadas polares. En esta cuadrícula circular, los vectores se reducen a dos datos esenciales: un radio que representa la fuerza central de los datos, y una dirección que indica su significado. Google lo compara con cambiar direcciones de "camina 3 cuadras al Este, 4 al Norte" a simplemente "camina 5 cuadras a 37 grados", ocupando menos espacio y eliminando costosos pasos de normalización de datos.

El segundo paso aplica la técnica Quantized Johnson-Lindenstrauss (QJL), que funciona como una capa de corrección de errores de 1 bit. Aunque PolarQuant logra una compresión efectiva, puede generar errores residuales. QJL suaviza estas imperfecciones reduciendo cada vector a un solo bit (+1 o -1) mientras preserva los datos esenciales que describen las relaciones vectoriales, resultando en puntuaciones de atención más precisas, el proceso fundamental mediante el cual las redes neuronales determinan qué datos son importantes.

Las pruebas realizadas por Google con los modelos abiertos Gemma y Mistral en diversos benchmarks de contexto largo mostraron resultados perfectos en todas las evaluaciones. TurboQuant logró reducir el uso de memoria en la caché de clave-valor hasta 6 veces, cuantizando la caché a solo 3 bits sin entrenamiento adicional, lo que significa que puede aplicarse a modelos existentes. Además, calcular la puntuación de atención con TurboQuant de 4 bits es 8 veces más rápido comparado con claves no cuantizadas de 32 bits en aceleradores Nvidia H100.

La implementación de TurboQuant podría hacer que los modelos de IA sean menos costosos de operar y requieran menos memoria. Sin embargo, las empresas también podrían aprovechar la memoria liberada para ejecutar modelos más complejos. La IA móvil podría ser la mayor beneficiaria, ya que las limitaciones de hardware de los smartphones hacen que técnicas de compresión como TurboQuant puedan mejorar significativamente la calidad de los resultados sin necesidad de enviar datos a la nube, manteniendo la privacidad del usuario.

Fuente Original: https://arstechnica.com/ai/2026/03/google-says-new-turboquant-compression-can-lower-ai-memory-usage-without-sacrificing-quality/

Artículo generado mediante LaRebelionBOT