コンテンツへスキップ
FindOpenSource

Outlines

LLM の出力を JSON スキーマ、正規表現、文法といった特定の構造に制約し、有効でパース可能な結果を保証するライブラリです。

概要

Outlines は、LLM が各ステップで生成できるトークンを制御し、モデルがプロンプト内のフォーマット指示に従うことを期待するのではなく、最終的な出力が JSON スキーマ、正規表現、文脈自由文法に正確に一致することを保証します。これにより、不正な形式やパース不可能なモデル出力に起因する、よくある一連の LLM アプリケーションのバグを排除できます。

Outlines は、データベースレコードへの値の投入や、正しい引数の型での関数呼び出しなど、LLM から保証された有効な構造化出力を必要とするチームに向いています。(カタログにもある) Instructor とは異なる技術的アプローチ(トークンレベルでの制約付き生成)を取っており、Instructor は代わりに function calling API を通じて構造化出力を実現しています。

カテゴリ
AI・機械学習
キーワード
structured-outputllm-generationjson-schema
言語
Python
ライセンス
Apache-2.0

誤りを見つけましたか? GitHub で修正を提案する