生成AIを使った弁護士が架空の判例を引用し、制裁金勧告を受ける事件が発生。AIの誤用が問題視されています。
この事件は2024年10月29日に起き、ラミレス弁護士がインディアナ州南部地区連邦地方裁判所に提出した意見書において、存在しない判例を引用していたことが発端です。
裁判所はこの判例の存在を確認できず、ラミレス弁護士に正しい情報の提出を求めましたが、彼はそれに応えられず、さらに他の文書でも同様の誤りが見つかりました。
彼はその後、引用が誤りであったことを認め、混乱を招いたことを謝罪しましたが、裁判所は彼の釈明を受け入れず、制裁金の勧告を行いました。
ラミレス弁護士は初めて生成AIを使用して書面を作成したことを認め、AIの生成能力についての理解が不足していたと説明しましたが、裁判所はその釈明を認めず、専門職規則違反に関する審査も行うこととなりました。
この件は、生成AIを利用する際のリスクや教育の重要性を再認識させるものとなっています。
参考リンクhttps://news.yahoo.co.jp/articles/7502707b2327920d7b86cf0d38397cd3c73089df
コメントでは、生成AIの誤用に対する懸念が多く寄せられていました。
特に医療の分野では、医師が生成AIに依存することに対する恐れがあり、患者の生命に関わる重要な判断をAIに任せることへの不安が表現されていました。
弁護士についても、生成AIを利用する際に誤った情報を引用したことが問題視され、被告人の人生がかかっているため、より慎重な対応が求められるという意見がありました。
さらに、AIの誤りや使い方の不適切さについても指摘され、法律実務においては特に慎重であるべきだという意見がありました。
また、生成AIを利用して裁判官を欺こうとしたのではないかという疑念も示され、弁護士としての資質が問われる結果となったことに対する批判もありました。
全体として、AIの利用における倫理や責任についての議論が活発に行われていた印象です。