NeMo Guardrails

NeMo Guardrails導入ガイド

ガードレールとはジェイルブレイクのように不正な出力を促すプロンプトを拒否したり、LLMが生成した暴力的や犯罪的な回答を拒否したり、LLMとのやり取りを安全に制御する機能です。会話の流れを制御することもできます。今後、生成AIアプリケーションを構築して […]