En el vertiginoso mundo de la inteligencia artificial, las grandes empresas están implementando agentes de IA a un ritmo que supera su capacidad de control. Aquí es donde entra en juego NeuralTrust, una startup con sede en Barcelona que ha asegurado 20 millones de dólares en financiación inicial. Su misión: poner orden y seguridad en el creciente ecosistema de agentes de IA que operan dentro de las corporaciones, muchas veces sin un registro claro ni supervisión adecuada.
El problema principal que aborda NeuralTrust es la 'dispersión'. En una empresa típica, los agentes de IA proliferan por diferentes departamentos y para distintas funciones: atención al cliente, automatización de tareas internas, o incluso los que vienen integrados con software de terceros. Cada uno de estos ag entes puede acceder a sistemas internos, bases de datos y herramientas externas, actuando de forma autónoma. El desafío para los equipos de seguridad es monumental: no saben cuántos agentes hay en funcionamiento, qué permisos tienen, ni si alguno ha sido comprometido para filtrar información sensible. Un agente mal configurado o manipulado podría, por ejemplo, enviar correos electrónicos a direcciones externas revelando datos confidenciales, lo que supondría un desastre para la organización.
La solución de NeuralTrust se basa en una capa de control unificada, ofrecida a través de tres productos principales. TrustGate actúa como un portal de seguridad por el que deben pasar todas las interacciones de los agentes. TrustGuard es un motor de detección y prevención de ataques en tiempo real, diseñado para identificar y detener actividades maliciosas al instante. Finalmente, TrustLens se encarga de mapear todos los agentes y monitorizar su comportamiento, permitiendo visibilizar su actividad y detectar anomalías. La compañía afirma inspeccionar millones de interacciones de agentes diariamente, identificando un preocupante 1.2% de ellas como maliciosas.
Un aspecto interesante de la estrategia de NeuralTrust es su posicionamiento geográfico. Frente a sus competidores predominantemente estadounidenses, la startup europea capitaliza la creciente preocupación por la soberanía tecnológica, especialmente en sectores como el gubernamental. Con normativas como la Ley de IA de la UE y las recientes restricciones de acceso a modelos avanzados por parte de EE.UU., el distintivo "hecho en Europa" se convierte en un fuerte argumento de venta. NeuralTrust apuesta por la creación de una nueva categoría de seguridad centrada en los agentes de IA, similar a lo que ocurrió previamente con la seguridad de endpoints y la seguridad en la nube. Si bien el desafío de la adopción anticipada a un incidente grave persiste, la compañía confía en que la s empresas europeas buscarán soluciones de seguridad de IA confiables y de origen local.
Fuente Original: https://thenextweb.com/news/neuraltrust-20-million-seed-ai-agent-security
Artículos relacionados de LaRebelión:
- Francia Invierte en IA Un Chatbot Soberano para Funcionarios
- Alibaba Lanza Modelos IA para Robots Autonomos
- Gobierno Bloquea Claude Riesgo IA para Empresas
- Agentes IA Vulnerabilidad de Ejecucion Remota Descubierta
- Microsoft SkillOpt Optimizacion Automatica de Agentes IA
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario