NeMo Guardrails

NeMo Guardrails lässt ein Team mithilfe einer dedizierten Modellierungssprache Regeln definieren, was eine LLM-gestützte Anwendung tun und nicht tun soll – beim Thema bleiben, bestimmte Inhalte vermeiden, einem bestimmten Gesprächsablauf folgen – und setzt diese Regeln rund um das zugrunde liegende LLM durch, unabhängig davon, welches Modell verwendet wird. Das fügt einem von Natur aus unvorhersehbaren Modell eine Schicht Vorhersagbarkeit hinzu.

NeMo Guardrails eignet sich für Teams, die LLM-Anwendungen mit verlässlichen Verhaltensgrenzen deployen, und ergänzt allgemeine LLM-Frameworks wie LangChain und Haystack (ebenfalls in diesem Katalog) durch eine Sicherheits- und Kontrollschicht um jedes Modell oder jede Pipeline, die diese Frameworks orchestrieren.