NeMo Guardrails

NeMo Guardrails は、専用のモデリング言語を使って、LLM を活用したアプリケーションが何をすべきで何をすべきでないか——話題を逸らさない、特定のコンテンツを避ける、特定の会話フローに従う——というルールをチームが定義できるようにし、どのモデルが使われていても、その基盤となる LLM の周りでそれらのルールを適用します。これにより、本質的に予測不可能なモデルの上に予測可能性のレイヤーが加わります。

NeMo Guardrails は、信頼できる行動面の境界を必要とする LLM アプリケーションをデプロイするチームに向いています。(カタログにもある) LangChain や Haystack のような汎用 LLM フレームワークを補完する存在で、それらのフレームワークがオーケストレーションするモデルやパイプラインの周りに、安全性と制御のレイヤーを追加します。