カラクリ、日本語に特化した生成AIガードレール「KARAKURI Guardrails」のβ版提供を開始

カラクリ、日本語に特化した生成AIガードレール「KARAKURI Guardrails」のβ版提供を開始

「KARAKURI Guardrails」は、既存のテック各社が提供するガードレール機能（有害コンテンツ検出、プライ...概要を表示 「KARAKURI Guardrails」は、既存のテック各社が提供するガードレール機能（有害コンテンツ検出、プライバシー保護、コンプライアンスチェックなど）に加えて、日本語独自の表現や慣習に即した高度な検知・制御を実現する。また、企業固有の要件やポリシーに合わせたカスタマイズが可能で、より精緻なリスク管理と安全なコミュニケーション環境の提供を行う。 おもな機能としては、信頼性の高い情報源と照合して不確実な情報や矛盾する内容を特定することで、誤った情報の拡散を防ぐことによって、AIが事実と異なる情報や根拠のない内容を生成するリスクを検出する「ハルシネーションリスクの検知」、会話やクエリの文脈を理解して設定された主題や目的から逸脱した応答を識別し、ユーザーの意図に沿った適切な情報提供を維持して、効率的なコミュニケーションを支援する「文脈逸脱の検知」といった機能を備えている。 ほかにも、不適切