生成AIは企業に期待されているものの、コストが膨らむ問題があり、特に高額なGPUの導入やコンサルティング費用が予算を圧迫しています。
バルセロナで開催された「Gartner IT Symposium/Xpo」で、アナリストは企業の生成AI活用がうまくいかない理由として、費用の無駄が生じやすいことを挙げています。
具体的には、生成AIの概念実証（PoC）プロジェクトには30万～200万ドルの費用がかかる可能性があり、特に高価なGPUを使用してAIモデルをトレーニングすることがコストを押し上げる要因とされています。
また、AIモデルの推論プロセスにかかる費用も膨らむことが懸念されています。
Gartnerの主任リサーチアナリストであるダリル・プラマー氏は、AIモデルの処理に必要な大量の演算にGPUが必要であり、このためにユーザー企業は自社のデータセンターにGPUを導入するか、クラウドから借りる必要があり、どちらも高額な費用がかかると説明しています。
さらに、プラマー氏はAIベンダーが技術の進化をベンダーの視点から捉えすぎており、ユーザー企業の目標に寄り添っていないことも問題視しています。
AIベンダーは「何ができるか」を示す一方で、「何をすべきか」を示していないことが企業の導入を難しくしていると指摘しています。
多くの企業は新技術の導入準備が整っていないため、コンサルティング費用に予算を多く割かざるを得ず、概念実証段階に到達するためにはさらなる予算が必要になると述べています。
最終的に、AIシステムが実運用に移行するまでのコストは増加し続けることが予想されます。
参考リンクhttps://news.yahoo.co.jp/articles/4c754f99c22483f8f3229103c585e595eb47c870