Andrej Karpathy, figura clave en el desarrollo de IA, ha presentado un enfoque innovador para la gestión del conocimiento en Modelos de Lenguaje Grandes (LLM) que promete superar las limitaciones de las arquitecturas actuales. Su propuesta, bautizada como 'LLM Knowledge Bases', se aleja de la complejidad de las bases de datos vectoriales y la generación aumentada por recuperación (RAG) para proponer un sistema donde el propio LLM actúa como un 'bibliotecario de investigación' incansable.
El núcleo de esta arquitectura reside en la manipulación de archivos Markdown (.md). En lugar de fragmentar y vectorizar datos, Karpathy propo ne que el LLM compile, enlace e interconecte activamente estos archivos, que son intrínsecamente legibles por humanos y fáciles de procesar para la IA. El proceso se divide en tres etapas: 'Data Ingest', donde se recopila información en bruto y se convierte a formato Markdown; 'The Compilation Step', donde el LLM genera un 'wiki' estructurado con resúmenes, conceptos clave y, crucialmente, enlaces bidireccionales entre ideas relacionadas; y 'Active Maintenance (Linting)', donde el LLM realiza 'chequeos de salud' para identificar inconsistencias y nuevas conexiones, logrando un sistema que se 'autocura' y es auditable.
Esta metodología elimina el problema de la 'caja negra' de los embeddings vectoriales, permitiendo que cada dato sea trazable hasta un archivo .md específico. Las implicaciones para las empresas son enormes: pasar de 'lagos de datos crudos' a 'activos de conocimiento compilados'. Empresas que actualmente se ahogan en datos no estructurados podrían, con est e modelo, generar una 'Biblia de la Empresa' autoactualizable. La filosofía 'file-over-app' que promueve Karpathy empodera al usuario, garantizando la soberanía de sus datos, con la IA actuando como un editor avanzado. En definitiva, Karpathy no solo comparte un script, sino una filosofía: el LLM como agente activo de su propia memoria, abriendo la puerta a un 'archivo autónomo'.
Fuente Original: https://venturebeat.com/data/karpathy-shares-llm-knowledge-base-architecture-that-bypasses-rag-with-an
Artículos relacionados de LaRebelión:
- Adios IA Sombra KiloConquista Empresas con Agentes Seguros
- Pretext Revoluciona Diseno Web con Codigo Abierto
- ARM Lanza Chip IA Revolucionario con Meta como Cliente Estrella
- Nvidia Revoluciona IA con Modelo Compacto Ultrapoderoso
- IA Reduce el Impacto Climatico del Vuelo Adios Estelas Nocivas
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario