AI研究者の76％が、現行の技術ではAGIを実現できないと考えています。安全性を重視しつつ、研究の継続性も求められる中で、AGIの将来に関する意見が集約されています。
このレポートは、国際的な学術団体AAAIの会長の指揮のもと、25名のAI研究者と15名の協力者によって作成され、475名の回答者からの意見が反映されています。
レポートは、AI研究の現状と未来を17章にわたり詳細に分析しており、AI推論、AIエージェント、倫理、安全性、社会貢献、持続可能性など多岐にわたるテーマが取り上げられています。
特にAGIに関する章では、回答者の77％が「AGIそのものを直接的に追求する」よりも、安全性と社会的影響を重視したAIシステムの設計を優先すべきだと考えています。
この結果は、技術開発の速度よりもリスクと利益のバランスを重視する傾向を反映しています。
また、82％の回答者が「民間企業が開発したAGIシステムでも公的な所有下に置くべき」との意見を示し、AGIの潜在的な社会変革力に対する懸念が表れています。
興味深いことに、70％の回答者は安全性が確立されるまでAGI研究を一時停止すべきではないと考え、研究の進展と安全対策の発展は並行して行うべきとの見解を示しています。
このように、AGI実現には現在の技術的枠組みを超えた根本的なブレークスルーが必要であるとの認識が広がっています。
参考リンクhttps://news.yahoo.co.jp/articles/038d2c88e212c8e0c5a4e7bea4eb85f434842641
コメントでは、AGI（汎用人工知能）の実現に関する期待と懸念が多く寄せられました。
デジタル技術の特性としてスケーラビリティが挙げられましたが、現状のAIには質的な変化が必要であるとの意見がありました。
足し算だけでは限界があり、知性の型の一部は言語処理に影響を受けているため、AIは人間よりも優れた能力を発揮する可能性があるとされました。
しかし、何かが欠けているという感覚が多くのコメントに見られ、常識や肉体的な経験が重要であるとの指摘がありました。
AIの社会実装に関しては、メリットがリスクを上回る場合には問題がないとしつつも、リスクが全てを台無しにすることもあるとの懸念が示されました。
特に、AIの幻覚（ハルシネーション）については、AIが「知らない」という感覚を持たないために発生することが指摘され、完全に取り除くことは難しいとの見解がありました。
真の推論のためには自然言語から形式論理への翻訳が必要であり、過去の開発で失敗してきた道筋を繰り返しているとの意見もありました。
また、研究者の未来予測が外れることが多いとし、AGIの実現には慎重な姿勢が必要であると強調されました。
最後に、AGIの脅威はAIそのものではなく、それを使う人間にあるとの意見があり、利用者の意識が重要であることが示されました。
ネットコメントを一部抜粋
デジタルの特性はスケーリングできることで、処理能力が許す限り拡大できることだと思う。
AIの社会実装もそれに似ています。
メリットがリスクを上回れば問題はないと言えます。
真の推論のためには、自然言語から形式論理への翻訳が必要ですが、これは過去の人工知能開発で失敗してきた道筋です。
研究者の未来予想は基本的に外れることが多いです。
AGIが脅威なのではなく、使う側の人間が脅威です。