El panorama de la inteligencia artificial (IA) empresarial está experimentando un desarrollo acelerado, pero con importantes desafíos subyacentes. Un estudio reciente revela que la mayoría de las empresas están implementando agentes de IA sin contar con los controles adecuados para su gestión, lo que ha llevado a la necesidad de una rápida adaptación y presupuestación para solventar estas deficiencias. Los datos muestran que aproximadamente seis de cada diez empresas planean cambiar o añadir proveedores en áreas clave de control en los próximos 12 meses, con un tercio considerando movimientos en el trimestre actual.
Las áreas críticas donde las empresas están construye ndo sus capacidades de IA incluyen la gestión de identidades para agentes (definiendo permisos y credenciales), la evaluación de los resultados de los agentes, el seguimiento de costos (telemetría), la capa de contexto (acceso a datos empresariales) y el plano de control de orquestación (coordinación de tareas complejas). La implementación prematura ha tenido consecuencias: el 54% de las compañías han sufrido incidentes de seguridad o cuasi-incidentes relacionados con agentes en el último año, y el 27% solo controlan los gastos de forma reactiva, sin presupuestos ni límites definidos por agente.
Uno de los hallazgos más sorprendentes es la subutilización del hardware. El 86% de las empresas que operan sus propias unidades de procesamiento gráfico (GPUs) reportan una utilización del 50% o menos. Esto contrasta con el debate en Wall Street sobre si la inversión en IA está sobredimensionada, sugiriendo que las empresas están pagando por hardware costoso que no a provechan al máximo. Además, solo el 44% rastrea rigurosamente los costos y retornos del cómputo de IA, mientras que la mayoría estima. A pesar de esto, el 45% de las empresas evalúan opciones de cómputo especializadas en IA en la nube, aunque menos del 2% las utilizan actualmente. Se observa también un interés creciente en alternativas a Nvidia, con un 32% considerando aceleradores no Nvidia y un 28% GPUs Nvidia de próxima generación.
Otro punto clave es la distinción entre "agentes" y chatbots simples. El 71% de las empresas indica que solo una cuarta parte o menos de sus agentes pueden completar tareas de varios pasos de forma autónoma; el resto son esencialmente chatbots que requieren intervención humana paso a paso. Esta confusión en la terminología, o "agentwashing", infla las cifras de adopción y puede llevar a una mala asignación de recursos y expectativas. Además, el 66% de las empresas permiten que los agentes lleguen a producción basándose única mente en evaluaciones automatizadas, o están trabajando para permitirlo, a pesar de que solo el 5% confía plenamente en estas evaluaciones. La mitad de las empresas han experimentado fallos en producción causados por agentes que pasaron las evaluaciones internas, y un cuarto ha sufrido esto más de una vez.
La seguridad es otra preocupación importante. El 69% de las empresas permite el uso compartido de credenciales entre agentes, y estas compañías son significativamente más propensas a sufrir incidentes de seguridad. Se recomienda otorgar a cada agente una identidad propia y delimitada. Finalmente, el 57% de las empresas ha rastreado respuestas incorrectas de agentes a problemas en su propio contexto de negocio, como métricas erróneas o definiciones desactualizadas. Si bien la mayoría está abordando esto, muchas aún están en proceso de construir capas semánticas gobernadas.
Fuente Original: https://venturebeat.com/orchestration/wall-street-is-debating-the-ai-buildout-enterprises-just-answered-86-say-their-gpus-run-at-half-capacity-or-less
Artículos relacionados de LaRebelión:
- Claves API Compartidas Exponen Agentes IA Empresariales
- IA y Datacenters Beneficios vs Costos Ocultos
- Agentes IA en Empresas Costos Seguridad y Cultura
- China IA Sin GPUs NVIDIA Nueva Era Tecnologica
- Claude Mythos Revela Tus Parches Empresariales Son Demasiado Lentos
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario