Para escalar la inteligencia artificial generativa, Notion rediseñó su infraestructura tecnológica desde cero. La compañía reconoció que era necesario reconstruir su plataforma para soportar la IA generativa a escala empresarial, pasando de flujos de trabajo basados en instrucciones paso a paso a agentes de IA impulsados por modelos de razonamiento avanzado.
Sarah Sachs, jefa de modelado de IA de Notion, explicó que la empresa buscó aprovechar las fortalezas de los modelos de razonamiento, reconstruyendo una nueva arquitectura adaptada a los flujos de trabajo de los agentes. Esto implicó reemplazar los flujos rígidos basados en prompts con un modelo de orquestación unificado, soportado por sub-agentes modulares que buscan información en Notion y en la web, consultan y añaden datos a bases de datos y editan contenido. Cada agente utiliza herramientas contextualmente, decidiendo si buscar en Notion o en otras plataformas como Slack, realizando búsquedas sucesivas hasta encontrar la información relevante. Posteriormente, puede convertir notas en propuestas, crear mensajes de seguimiento, rastrear tareas y realizar actualizaciones en bases de conocimiento.
Notion ha adoptado un ciclo de iteración continua que equilibra la latencia y la precisión, optimizando las búsquedas y utilizando un marco de evaluación riguroso que combina pruebas deterministas, optimización vernácula, datos anotados por humanos y LLMs como jueces. Al bifurcar la evaluación, se pueden identificar y aislar las alucinaciones innecesarias. La compañía también enfatiza la importancia de comprender la latencia contextual, optimizando los modelos para que entreguen la información más relevante, no necesariamente la mayor cantidad, ajustando las expectativas del usuario a través de la interfaz de usuario. Internamente, Notion utiliza su propia herramienta constantemente, obteniendo retroalimentación rápida de sus empleados y socios de diseño, lo que permite evaluar el progreso y garantizar que los modelos no regresen en rendimiento.
Las principales conclusiones de Notion para otras empresas incluyen no tener miedo de reconstruir cuando cambien las capacidades fundamentales, tratar la latencia como contextual y basar todos los resultados en datos empresariales curados y confiables.
Fuente Original: https://venturebeat.com/ai/to-scale-agentic-ai-notion-tore-down-its-tech-stack-and-started-fresh
Artículos relacionados de LaRebelión:
- Marcos Metal-Organicos Nobel de Quimica para Arquitectos
- IA adaptable ReasoningBank memoria para agentes inteligentes
- Defensa Algoritmica Guia para Navegar la IA
- Arquitectura Determinista Unificada Mas alla de Von Neumann
- Cerrando Brechas Plan de Accion para la Deteccion
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario