アマゾンがAIのハルシネーション問題を数学的アプローチで解決する取り組みを進めています。
この取り組みは、AIの回答精度を向上させ、信頼性を高めることでビジネス機会を拡大することを目的としています。
特に、チャットボットやAIが企業の意思決定に重要な役割を果たす中で、正確性の確保が求められています。
アマゾンのクラウドコンピューティング部門である「Amazon Web Services（AWS）」は、この問題を解消するために「自動推論（Automated Reasoning）」という分野に着目しました。
この分野は、2000年の歴史を持つ数理論理に基づき、AIが特定の行動をするかどうかを数学的に証明することを目指しています。
AWSは、サイバーセキュリティ分野で自動推論を活用し、法人向けの暗号技術の正当性を証明することで顧客の信頼を得てきました。
さらに、AWSは「Automated Reasoning Checks」というツールを開発し、顧客が定義したポリシーに基づいてAIの回答が正確かどうかを検証しています。
このツールは、例えば従業員福利厚生や商品の化学的分析に関する社内規定などの詳細情報に基づいて、AIが規制に違反するような不適切な情報を生成するリスクを軽減します。
監査・コンサルティング大手のプライスウォーターハウスクーパース（PwC）は、このツールを用いて製薬業界などのハルシネーション対策を支援しています。
具体的には、製薬会社が新薬の広告文案を作成する際にAWSのツールを利用し、AIが作成した文案が広告規制に違反していないかを事前に確認することができます。
これにより、違反の可能性がある場合はAIに修正を指示したり、人間が最終確認を行うことで、規制違反のリスクを回避することが可能になります。
参考リンクhttps://news.yahoo.co.jp/articles/d53cfc511deb4e43cfac775950c4af6a34450703