カラクリが日本語特化の生成AIガードレール「KARAKURI Guardrails」のβ版を発表。安全な利用環境を提供し、独自の文化に対応。
要約するとカラクリ株式会社は12月25日、日本語に特化した生成AIのガードレール「KARAKURI Guardrails」のβ版を提供開始しました。
この取り組みは、日本における生成AIの実用化を促進し、安心かつ安全な利用環境を整えることを目的としています。
生成AIのガードレールは、ユーザーとのインタラクションを監視・制御する安全管理システムであり、OpenAIやNVIDIA、AWSなども既にガードレール機能の強化に注力しています。
しかし、これらの基準は主に英語圏に最適化されているため、日本独自の言語的・文化的特性を反映していないという課題があります。
カラクリは、国産の大規模言語モデル「KARAKURI LM」のノウハウを活用し、日本特有の要件に応じたAIセキュリティ基準を確立することを目指しています。
「KARAKURI Guardrails」は、既存のガードレール機能に加え、日本語特有の表現や慣習に基づいた検知・制御を行います。
企業固有の要件に合わせたカスタマイズも可能で、より精緻なリスク管理と安全なコミュニケーション環境を提供するとしています。
主な機能には、「ハルシネーションリスクの検知」、「文脈逸脱の検知」、「攻撃的行為の検知」、「個人情報の検知」、「禁止ワード、禁止トピックの検出」があり、これにより誤った情報の拡散を防ぎ、ユーザーの意図に沿った適切な情報提供をサポートします。
また、プライバシー保護やコンプライアンスの確保にも寄与します。
参考リンクhttps://news.yahoo.co.jp/articles/b3cdf71a92fb658decd86ba73df4d35baaaad697