Zum Inhalt springen
FindOpenSource

Outlines

Bibliothek zum Einschränken von LLM-Ausgaben auf eine bestimmte Struktur – JSON-Schema, Regex, Grammatik – und garantiert gültige, parsbare Ergebnisse.

Überblick

Outlines steuert, welche Tokens ein LLM bei jedem Schritt generieren darf, und garantiert, dass die endgültige Ausgabe exakt einem JSON-Schema, einem regulären Ausdruck oder einer kontextfreien Grammatik entspricht, statt zu hoffen, dass ein Modell Formatierungsanweisungen in einem Prompt befolgt. Das eliminiert eine häufige Klasse von LLM-Anwendungsfehlern, die durch fehlerhafte oder nicht parsbare Modellausgaben verursacht werden.

Outlines eignet sich für Teams, die garantiert gültige strukturierte Ausgaben von einem LLM benötigen – etwa das Befüllen eines Datenbankeintrags, den Aufruf einer Funktion mit den richtigen Argumenttypen – ein anderer technischer Ansatz (eingeschränkte Generierung auf Token-Ebene) als Instructor (ebenfalls in diesem Katalog), das strukturierte Ausgabe stattdessen über Function-Calling-APIs erreicht.

Kategorien
KI & Machine Learning
Schlagwörter
structured-outputllm-generationjson-schema
Sprachen
Python
Lizenz
Apache-2.0

Einen Fehler entdeckt? Änderung auf GitHub vorschlagen.