Dataikuが生成AIの運用管理サービス「LLMガード」を発表。コスト、安全性、品質を管理し、企業の生成AI活用を支援します。
このサービスは、生成AIのコスト管理、品質保証、安全確保を支援するために設計されており、主に「コストガード」、「安全性ガード」、「クオリティーガード」の3つの機能から成り立っています。
特に、Dataikuの調査によると、88％の企業が大規模言語モデル（LLM）の管理に特化したアプリケーションやプロセスを持っていないことが明らかになりました。
この背景を受けて、LLMガードは企業が生成AIを構築、導入、管理する際のリスクを軽減するためのソリューションとして位置付けられています。
具体的には、「コストガード」がLLMの使用状況を効率的に追跡し、予算に対する支出を管理する役割を果たします。
「安全性ガード」は、リクエストやレスポンスの機密情報を評価し、データの不正使用や漏えいを防ぐためのカスタマイズ可能なツールを提供します。
そして「クオリティーガード」は、LLMの品質を自動化された標準化評価によって保証し、企業が生成AIの回答の関連性や正確性を自動で評価できるようにします。
これにより、企業は最適なLLMとアプローチを選定でき、生成AIの信頼性を長期間にわたり維持することが可能になります。
さらに、品質評価のプロセスを簡素化することで、概念実証（PoC）から本格導入へのスムーズな移行を助けます。
これまで企業は独自にコードを作成するか専用ツールを使用する必要がありましたが、Dataikuの「ユニバーサルAIプラットフォーム」を利用することで、生成AIの品質を迅速かつ容易に評価し、ユースケース構築のプロセスに組み込むことができるようになります。
DataikuのCEO Florian Douetteau氏は、生成AIアプリケーションがコスト、品質、安全性の面で一貫したパフォーマンスを提供することが、企業における生成AIの潜在能力を最大限に発揮するために不可欠であると述べています。
参考リンクhttps://news.yahoo.co.jp/articles/e8623104705ee6f69610cf03ba52ac05bb042ff6