Outlines
用于将大语言模型输出约束为特定结构(JSON schema、正则表达式、文法)的库,保证结果有效且可解析。
概述
Outlines 控制大语言模型在每一步允许生成的词元(token),从而保证最终输出严格符合 JSON schema、正则表达式或上下文无关文法,而不是寄希望于模型遵循提示词中的格式说明。这消除了一类常见的、由格式错误或无法解析的模型输出所导致的大语言模型应用缺陷。
Outlines 适合那些需要从大语言模型获得保证有效的结构化输出(如填充数据库记录、以正确参数类型调用函数)的团队,采用了与目录中 Instructor 不同的技术路径(在词元层面进行约束生成),而 Instructor 是通过函数调用 API 来实现结构化输出的。
- 分类
- AI 与机器学习
- 编程语言
- Python
- 许可证
- Apache-2.0
广告
相关项目
发现信息有误?在 GitHub 上提出修改建议。