Guidance

Guidance lässt einen Entwickler ein einziges Programm schreiben, das Klartext-Prompts, Kontrollfluss (Schleifen, Bedingungen) und Einschränkungen darüber, was das Modell als Nächstes genau generieren darf – Regex-Muster, Auswahllisten oder strukturierte Formate – mischt, statt mehrere separate Aufrufe an eine LLM-API zu machen und Ergebnisse im Anwendungscode zusammenzufügen. Das kann die Generierung auch beschleunigen, indem Tokens übersprungen werden, die durch die Einschränkungen bereits feststehen.

Guidance eignet sich für Teams, die feingranulare, programmatische Kontrolle über den Generierungsprozess selbst wollen – eine vergleichbare Alternative zu Outlines (ebenfalls in diesem Katalog): Beide schränken LLM-Ausgaben ein, wobei Guidance einen verschachtelten Programm-und-Generierung-Autorenstil betont.