Outlines

Outlines는 LLM이 각 단계에서 생성할 수 있는 토큰을 제어하여, 모델이 프롬프트의 형식 지시를 따르기를 바라는 대신 최종 출력이 JSON 스키마, 정규식, 문맥 자유 문법과 정확히 일치하도록 보장합니다. 이는 형식이 잘못되었거나 파싱할 수 없는 모델 출력으로 인한 흔한 부류의 LLM 애플리케이션 버그를 없애줍니다.

Outlines는 데이터베이스 레코드 채우기, 올바른 인자 타입으로 함수 호출하기 등 LLM로부터 보장된 유효한 구조화 출력이 필요한 팀에 적합하며, (카탈로그에 있는) Instructor와는 다른 기술적 접근(토큰 수준의 제약된 생성)을 취합니다 — Instructor는 대신 함수 호출 API를 통해 구조화된 출력을 달성합니다.