京都府警が17歳男子高校生を逮捕。生成AI「チャットGPT」を使い、他人のクレジットカードを不正使用し、自作プログラムでカード番号を取得。政府はAIの悪用防止に向けた議論を開始。
この高校生は、自作のプログラムを通じてカード番号を不正に取得していた。
生成AIサービスには悪用を防ぐための制限機能があるが、質問や指示の仕方を工夫することでそれを回避できることが分かっており、政府や警察は警戒を強めている。
昨年5月には、生成AIを使ってコンピューターウイルスを作成した男が逮捕されており、生成AIの悪用は犯罪や偽情報拡散、著作権侵害などのリスクを引き起こしている。
警察庁は、生成AIを用いて作成された身代金要求型ウイルス「ランサムウエア」などの実験を行い、命令の言い回しを変えることで複数のウイルスを作成することが可能であることを確認した。
この手法は「ジェイルブレイク（脱獄）」と呼ばれ、専門知識がなくてもウイルスを作成できる危険性が浮上している。
政府はAIの活用と課題について議論する「AI戦略会議」を設立し、規制のあり方を検討中である。
京都橘大の松原仁教授は、生成AIの進化が速く、現在の規制が将来には無意味になる可能性が高いと指摘し、悪用防止に向けた努力が必要であると強調した。
参考リンクhttps://news.yahoo.co.jp/articles/60556a1be4e86c713a7dfe3d7c222a1c26a93cec
コメントでは、生成AIの悪用に関する懸念が表明されましたが、その一方で、AIを規制したいという意図が見受けられました。
特に、オールドメディアがAIの普及によって自身の立場が脅かされることから、規制を求めているとの意見がありました。
また、クレジットカードの不正利用は昔から存在する問題であり、生成AIの登場によって新たに生じたわけではないと指摘されました。
過去にも不正利用を助長するプログラムは存在していたため、生成AIだけが悪者にされるのはおかしいという意見もありました。
さらに、AIの悪用を防ぐためには、具体的な対策を講じる必要があるとの声もあり、犯罪者の発想を逆手に取る方法を模索することが求められているようです。
全体として、AIの進化がもたらすリスクと、それに対する社会の対応が重要なテーマとして浮かび上がりました。
ネットコメントを一部抜粋
要は、AIを規制・禁止して欲しいオールドメディア側の欲望丸出し記事。
クレカの不正利用なんて、何十年も昔からある。
自分が育てた商品が誘拐されて人殺しを強いられている、みたいな感覚。
そういう発想にたどり着くのが犯罪者の凄いところ。
チャットGPTでのプログラム作成を一切できなくすればええやん。