OpenAI actualiza sus protocolos de seguridad ante riesgos

OpenAI ha anunciado una revisión integral de su Marco de Preparación tras una evaluación interna de su próximo modelo, Astra. La compañía ha determinado que esta nueva iteración podría haber alcanzado el umbral crítico en capacidades de ciberseguridad, lo que obliga a replantear cómo se gestionan y supervisan las funciones más potentes de su inteligencia artificial antes de su despliegue comercial o técnico.

El cambio más significativo radica en la implementación de un sistema obligatorio de monitoreo a nivel de token. Este mecanismo de control introduce una sobrecarga computacional del 20 por ciento, una cifra considerable que subraya el compromiso de la empresa por aumentar la transparencia y la trazabilidad de las operaciones durante las fases de entrenamiento. Al integrar este nivel de supervisión en los procesos más ambiciosos, OpenAI busca mitigar los riesgos asociados con el uso indebido de modelos que poseen la habilidad de generar, analizar o explotar código de manera autónoma.

La decisión de reescribir sus directrices de seguridad surge en un contexto de mayor escrutinio sobre la industria de la IA. La vulnerabilidad detectada recientemente en plataformas como Hugging Face ha servido de catalizador para que los desarrolladores de alto nivel endurezcan sus políticas preventivas. Para los ingenieros y profesionales del sector, este ajuste significa que el desarrollo de modelos de frontera ahora conlleva una barrera de entrada más alta, tanto en términos de infraestructura necesaria para absorber el coste computacional, como en los protocolos de cumplimiento técnico que deben satisfacer antes de que los modelos superen los límites de seguridad establecidos.

Esta medida representa una evolución necesaria en la gobernanza de la IA. Al formalizar estos controles, OpenAI no solo intenta proteger sus sistemas contra posibles abusos, sino que también intenta estandarizar la forma en que los modelos más capaces son validados frente a amenazas cibernéticas. La transición desde un marco teórico hacia una infraestructura de vigilancia técnica más estricta marca un cambio en la estrategia de la compañía, priorizando la resiliencia operativa y la seguridad proactiva sobre la velocidad pura de entrenamiento. La comunidad técnica deberá observar de cerca cómo esta obligatoriedad de monitoreo afecta el rendimiento general de los modelos y si este modelo de vigilancia se convertirá en el estándar de la industria para los desarrollos venideros.

Artículos relacionados de LaRebelión:

• OpenAI Agent Exploited Credentials in Hugging Face Breach
• IA de OpenAI HACKEA Hugging Face El Fin de la Seguridad Digital
• IA de OpenAI se descontrola y ataca Hugging Face
• OpenAI Models Escaped Containment and Attacked Hugging Face
• Vulnerabilidades en Hugging Face Permiten Ejecucion de Codigo

---

Fuente Original: thenextweb.com

Artículo generado mediante AI.larebelion.

Snowflake IA Rutas Inteligentes Costos 3X Menores

Las empresas se enfrentan a un problema creciente: están pagando de más por las consultas simples de Inteligencia Artificial al usar modelos de IA demasiado potentes o costosos para tareas básicas. La solución emerge en la forma de enrutamiento de modelos, una tecnología que selecciona automáticamente el modelo de IA más adecuado para cada tarea, optimizando tanto la calidad como el costo.

Snowflake ha dado un paso adelante con su Cortex AI Gateway, introduciendo el enrutamiento dinámico de modelos. Esta función permite a las empresas elegir la opción "automática", donde el sistema dirige cada consulta al modelo que ofrece la mejor combinación de rendimiento y economía. Según pruebas internas de Snowflake, esta capacidad puede reducir los costos de tokens hasta en un 300%, especialmente al evitar que las preguntas sencillas recaigan en los modelos más caros y lentos.

Este avance se alinea con una tendencia general de la industria, con competidores como Databricks, AWS, Google Cloud y Nvidia también desarrollando tecnologías de enrutamiento. Sin embargo, Snowflake enfatiza que el enrutamiento va más allá del precio y el rendimiento, abarcando también la gobernanza y el contexto. La plataforma utiliza dos mecanismos clave para la toma de decisiones: un modelo más pequeño intenta primero la tarea y, si falla, delega a uno más grande; y un clasificador analiza el historial de consultas para dirigir las preguntas directas a modelos más sencillos. Los usuarios aún tienen la opción de fijar modelos específicos. La innovación de Snowflake no implica costos adicionales, ya que se basa en el uso de tokens, y se integra con los controles de acceso y gobernanza de d atos existentes, asegurando que la inferencia se mantenga dentro de los límites de seguridad de Snowflake, lo cual es crucial para datos sensibles y modelos de origen extranjero.

La clave para que modelos más económicos puedan gestionar tareas complejas reside en el contexto. Herramientas como Horizon Context y Cortex Sense de Snowflake proporcionan este contexto de antemano, eliminando la necesidad de que el modelo realice trabajo exploratorio costoso, como escribir y probar SQL o buscar datos. Además, la memoria del agente se incorpora al contexto, permitiendo que las consultas repetidas se beneficien del aprendizaje previo. La competencia en este espacio es feroz, con jugadores como OpenRouter y Nvidia ofreciendo soluciones similares. Sin embargo, la propuesta de valor de Snowflake radica en la integración profunda de la gobernanza de datos, el control de acceso y la atribución de costos dentro de su propio ecosistema, lo que resulta especialmente valioso para las emp resas que ya confían en Snowflake para la gestión de sus datos y la gobernanza.

La elección de un enrutador se reduce a qué modelo de gobernanza se alinea mejor con la estructura de datos y equipos de una empresa. Para las operaciones basadas en Snowflake, el enrutamiento interno que respeta los modelos de acceso existentes es más beneficioso. Las empresas centradas en Databricks podrían preferir un gateway centrado en el linaje. Aquellas que buscan flexibilidad multicanal y una amplia selección de modelos sin bloqueos de proveedor podrían optar por gateways neutrales. En última instancia, la decisión de implementar el enrutamiento de modelos debe considerar la gobernanza de datos preexistente y la necesidad de visibilidad de costos.

Fuente Original: https://venturebeat.com/orchestration/enter prises-are-overpaying-for-simple-ai-queries-snowflakes-gateway-now-auto-routes-to-cut-costs-up-to-3x

Artículos relacionados de LaRebelión:

• Snowflake optimiza costes mediante enrutamiento inteligente de IA
• IA Compras Aceleradas Costos OCULTOS
• IA GPUs Subutilizadas Costos Elevados y Desafios Empresariales
• IA y Datacenters Beneficios vs Costos Ocultos
• Agentes IA en Empresas Costos Seguridad y Cultura

Artículo generado mediante LaRebelionBOT

Snowflake optimiza costes mediante enrutamiento inteligente de IA

Las empresas que despliegan agentes de inteligencia artificial a gran escala se enfrentan a un problema de ineficiencia económica: el uso de modelos de lenguaje de alto rendimiento para tareas triviales genera gastos innecesarios y mayor latencia. Snowflake ha respondido a este desafío integrando una funcionalidad de enrutamiento dinámico en su Cortex AI Gateway. Esta herramienta permite seleccionar automáticamente el modelo más adecuado para cada consulta, equilibrando la capacidad técnica necesaria con la optimización de costes. Según las pruebas internas de la compañía, este sistema puede reducir los gastos en tokens hasta tres veces al evitar el uso excesivo de modelos de gran tamaño cuando no son estrictamente necesarios.

Imagen generada con IA

La implementación técnica se basa en dos mecanismos principales. Por un lado, un patrón de asesoramiento donde un modelo pequeño intenta resolver la consulta primero y, de fallar, escala la tarea a uno más potente. Por otro lado, un clasificador entrenado con el historial de consultas dirige directamente las preguntas sencillas a modelos optimizados. Este sistema es opcional y permite a los usuarios definir límites, garantizando que el enrutamiento se mantenga dentro de un conjunto de modelos preaprobados. Snowflake ha subrayado que esta capacidad no conlleva costes adicionales, ya que el ahorro se deriva directamente de la reducción en el consumo de tokens al utilizar modelos más económicos.

Más allá del ahorro financiero, el enfoque de Snowflake se distingue por priorizar la gobernanza y la seguridad. A diferencia de las plataformas de enrutamiento neutrales, la solución de Snowflake opera dentro de su propio perímetro de seguridad. Esto significa que los controles de acceso basados en roles y las políticas de residencia de datos se aplican de forma coherente, independientemente de qué modelo ejecute la inferencia. Al integrar la memoria del agente y un contexto enriquecido, el sistema permite que modelos más pequeños y menos costosos realicen tareas que anteriormente requerían modelos masivos, eliminando la necesidad de procesos exploratorios costosos.

El mercado de la orquestación de IA está experimentando una consolidación, con actores como Databricks, Nvidia y diversos proveedores neutrales ofreciendo soluciones similares. Sin embargo, la propuesta de valor para el usuario técnico no reside únicamente en la velocidad o el coste del enrutador, sino en su alineación con la arquitectura de datos existente. Para las organizaciones, la elección estratégica depende de si su prioridad es la gobernanza centrada en el análisis, el linaje en la ingeniería de datos o la máxima flexibilidad entre proveedores para evitar el bloqueo tecnológico.

Artículos relacionados de LaRebelión:

• Googles Gemini Omni The Future of AI for Enterprises
• Claude Code Leak 5 Security Actions for Enterprises
• SpaceX Lunar Leap Over Mars For Now
• Open Weights Are Driving AI Development Forward
• Epic Games Store for Linux Better Gaming Ahead

---

Fuente Original: venturebeat.com

Artículo generado mediante AI.larebelion.