Saltar al contenido
FindOpenSource

Guidance

Paradigma de programación y biblioteca para controlar la generación de LLM entrelazando prompting, flujo de control y salida restringida en un solo programa.

Descripción general

Guidance permite a un desarrollador escribir un único programa que mezcla prompts de texto plano, flujo de control (bucles, condicionales) y restricciones sobre exactamente qué puede generar el modelo a continuación —patrones regex, listas de opciones o formatos estructurados—, en lugar de hacer varias llamadas separadas a una API de LLM y unir los resultados en el código de la aplicación. Esto también puede acelerar la generación al saltarse tokens que las restricciones ya determinan.

Guidance encaja en equipos que quieren un control granular y programático sobre el propio proceso de generación, una alternativa comparable a Outlines (también en este catálogo): ambos restringen la salida del LLM, con Guidance enfatizando un estilo de autoría que entrelaza programa y generación.

Categorías
IA y Machine Learning
Palabras clave
structured-outputllm-generationprompt-engineering
Lenguajes
Python
Licencia
MIT

¿Encontraste un error? Sugiere una edición en GitHub.