跳至内容
FindOpenSource

Outlines

用于将大语言模型输出约束为特定结构(JSON schema、正则表达式、文法)的库,保证结果有效且可解析。

概述

Outlines 控制大语言模型在每一步允许生成的词元(token),从而保证最终输出严格符合 JSON schema、正则表达式或上下文无关文法,而不是寄希望于模型遵循提示词中的格式说明。这消除了一类常见的、由格式错误或无法解析的模型输出所导致的大语言模型应用缺陷。

Outlines 适合那些需要从大语言模型获得保证有效的结构化输出(如填充数据库记录、以正确参数类型调用函数)的团队,采用了与目录中 Instructor 不同的技术路径(在词元层面进行约束生成),而 Instructor 是通过函数调用 API 来实现结构化输出的。

分类
AI 与机器学习
关键词
structured-outputllm-generationjson-schema
编程语言
Python
许可证
Apache-2.0

发现信息有误?在 GitHub 上提出修改建议