中国のAIモデルDeepSeekがCiscoの安全テストで全て不合格となり、危険性が指摘されています。100％の不正解率は業界最高で、今後の安全性向上が懸念されています。
このテストは、Ciscoの研究チームが実施したもので、AIが危険なプロンプトに対してどれだけ適切に反応できるかを評価するものでした。
テストでは、50種類の攻撃的なプロンプトを使用し、DeepSeekは全てのテストで「罠」に引っかかり、不正解率は100％という結果になりました。
これは、他の大規模言語モデルと比較しても非常に危険な数字で、安全性が極めて低いことを示しています。
例えば、MetaのLlama 3.1は96％、OpenAIのo1モデルは25％の不正解率を持っていますが、DeepSeekはその中で最も高い不正解率を記録しました。
テストには、サイバー犯罪や誤情報、法に反する行動など6つのカテゴリが含まれており、安全性の高いAIは危険なプロンプトに対して拒否反応を示す必要があります。
しかし、DeepSeekはその要求に対してノリノリで応答してしまうため、セキュリティ専門家からも懸念の声が上がっています。
Adversa AIというセキュリティファームも独自にテストを行い、DeepSeekが危険な質問に対しても容易に回答してしまう様子を報告しています。
このような「素直さ」が今後の安全性向上にどのように影響するのか、業界内での議論が続いています。
参考リンクhttps://news.yahoo.co.jp/articles/ba02911af9f184b5822e3b7bf9272b8b267f1bbf
コメントでは、DeepSeekに関するさまざまな意見が寄せられました。
多くの人々がAIの危険性や倫理の欠如について懸念を示しており、特に悪用されるリスクが強調されていました。
「中国製のAIは、コンプライアンスや倫理を無視しているのではないか」という意見や、「悪用する側にとっては非常に使いやすいツールになる」という指摘が目立ちました。
また、ユーザーがAIの回答を盲目的に信じてしまう危険性についても言及され、情報リテラシーの重要性が強調されていました。
さらに、中国の政治的背景が影響しているとの見解もあり、「共産党の指示で情報が制限される可能性がある」との懸念が表明されました。
これにより、DeepSeekを利用すること自体がリスクを伴うとの意見もありました。
全体として、DeepSeekの利用には慎重さが求められるという意見が多かったです。
ネットコメントを一部抜粋
他所からの攻撃への防御力が弱いのかと思って読んだが、コンプライアンスや倫理の遵守性が弱い？無い？という事のようだ。
制約を強めれば、簡単に騙し文章が作れなくなるメリットはある。
AIと議論できる時代、すごいな～と思ったけど、正確ではないところもあるので自分で確認しないと危ないなと感じた。
結局のところAIはAIで無いと云う事です。
犯罪集団が好んで使う道具になってしまう。