生成AIの進化により、ヒューマンエラーを狙ったサイバー攻撃が急増。米国防総省は生成AI防衛契約を締結し、対策を強化することを発表。
要約すると最近、生成AIの進化により、特にヒューマンエラーを狙ったサイバー攻撃が急増している。
特に「ダークAIツール」と呼ばれる悪用された生成AIがフィッシング詐欺の手法を進化させ、軍関係者をターゲットにした攻撃が目立つようになった。
米国防総省は、2024年11月に初の生成AI防衛契約を締結し、約2.8億円を投じてニューヨークのJericho Securityと協力し、先進的なサイバーセキュリティソリューションの開発を進めることを発表した。
この契約は、生成AIによる脅威に対抗するための重要なステップを示している。
さらに、国防総省は2023年8月に生成AIと大規模言語モデルに関するタスクフォース「Task Force Lima」を設立し、今後12～18カ月の活動を通じて生成AIの活用に関する調査結果を公表する予定だ。
特に、軍関係者を狙ったフィッシング攻撃が増加しており、空軍のドローンパイロットを狙った偽のユーザーマニュアルを使ったスピアフィッシング攻撃がその一例である。
生成AIの精度が向上することで、フィッシング攻撃の精度も向上し、ヒューマンエラーを引き起こす危険性が高まっている。
このような背景から、米国防総省は技術的優位性の維持と運用効率の向上を図るため、政府全体のアプローチに基づいた投資やパイロットプログラムを展開する方針を示している。
参考リンクhttps://news.yahoo.co.jp/articles/a05b2aee44e9d29564153c0be80e95c898399fef