Guidance

Guidance 让开发者能够编写一个单一的程序，将纯文本提示词、控制流（循环、条件分支），以及对模型下一步究竟能生成什么内容的约束（正则表达式模式、选项列表或结构化格式）混合在一起，而不是对大语言模型 API 进行多次独立调用，再在应用代码中拼接结果。这还能通过跳过已被约束确定的词元来加快生成速度。

Guidance 适合那些希望对生成过程本身进行精细化、程序化控制的团队，是目录中 Outlines 的一个可对比的替代方案——两者都对大语言模型输出进行约束，Guidance 更强调将程序与生成过程交织在一起的编写风格。