三菱総研DCSとGMOサイバーセキュリティが協業し、生成AIを利用するシステム向けに新たなセキュリティ診断サービスを開始しました。診断は疑似攻撃を用いてリスクを調査し、顧客のニーズに応じたプランを提供します。
要約すると三菱総研DCS株式会社とGMOサイバーセキュリティ byイエラエ株式会社は、生成AIの利用が進む中でのセキュリティ強化を目的とした協業を発表しました。
具体的には、三菱総研DCSが提供する「生成AI利用システムセキュリティ診断」という新しいサービスが開始されました。
このサービスは、GPTなどの大規模言語モデル（LLM）を使用したアプリケーションに対して、敵対的プロンプト（Adversarial Prompting）を用いた疑似攻撃を行い、アプリケーション内に潜むセキュリティリスクを調査します。
特に、生成AIの普及と共に、攻撃者が不正な命令を入力することで生じる新たなリスク、例えば不適切な出力や機密情報の窃取に対応することを目指しています。
診断プランは、顧客のニーズに応じて「ライトプラン」「ベーシックプラン」「アドバンスドプラン」の3種類が用意されており、アプリケーションごとにカスタマイズした診断も可能です。
対応する言語モデルには、GPT-3.5、GPT-4、Gemini、Claude3、Claude 3.5 Sonnetなどが含まれます。
両社はこの協業を通じて、AI技術の進展に伴う新たなセキュリティリスクに対策を講じ、顧客の生成AI活用を支援する意向を示しています。
また、他の分野でも協力を進め、増加するサイバーリスクに柔軟に対応できる環境を整えることで、安心を提供することを目指しています。
参考リンクhttps://news.yahoo.co.jp/articles/4228cc4d2ee516ba56e397576dec13c77e48dbbe