Este artículo desglosa la ingeniería de prompts como una disciplina crucial en el diseño de sistemas que utilizan modelos de lenguaje grandes (LLM). Contrario a tratar los prompts como simples 'trucos' o 'palabras mágicas', el autor propone abordarlos como contratos API, buscando entradas predecibles, salidas restringidas y respuestas validadas. Un buen diseño de prompt es comparable a escribir una buena especificación.
Se exploran los elementos estructurales de un prompt, como la especificación del rol del modelo (ej., 'Eres un auditor de seguridad'), el orden de las instrucciones, las restricciones (longitud, palabras prohibidas) y los esquemas de salida (JSON, XML). Se enfatiza que los prompts deberían considerarse como lenguajes de dominio específico (DSL), diseñados para especificar entradas, no para crear prosa libre.
El artículo destaca la importancia del 'few-shot prompting', que consiste en proporcionar al modelo ejemplos explícitos de pares entrada-salida para que generalice el patrón. También se discuten técnicas para mejorar la consistencia del modelo, como 'chain-of-thought' (CoT), que pide al modelo que muestre su razonamiento paso a paso, y 'self-consistency', que implica muestrear múltiples salidas y agregarlas para obtener una respuesta más fiable. Se subraya que en aplicaciones reales, es mejor usar pipelines de prompts más pequeños y fiables en lugar de un único prompt gigante, dividiendo las tareas en pasos atómicos con validación. Finalmente se incluye un ejemplo práctico de extracción de datos con formato JSON.
Fuente Original: https://thehustlingengineer.substack.com/p/genai-for-engineers-part-2-from-prompt
Artículos relacionados de LaRebelión:
- Pixel Watch 4 Novedades en Diseno y Hardware
- Venganza Informatica Desarrollador Recibe 4 Anos de Prision por Kill Switch en Sistemas de su ...
- Sistemas ADAS a Prueba Intervenciones Humanas Cada 9 Minutos Revelan Limitaciones en la Asiste...
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario