インドのスタートアップSimplismartが生成AIの応答時間を数百ミリ秒に短縮する技術を開発し、約10億円を調達。顧客は応答時間を80％以上短縮可能。
要約するとインド・ベンガルールのスタートアップ、Simplismartは、生成AIの応答時間を数百ミリ秒に短縮する技術を開発し、700万ドル（約10億円）の資金調達を完了したと発表しました。
創業者のアムリタンシュ・ジェインとデヴァンシュ・ガタクは、Oracle CloudやGoogle検索での経験を活かし、生成AIを利用する企業に向けた新しい「推論エンジン」を開発しました。
このエンジンは、ソフトウェアエンジニアが生成AIを用いた製品を開発する際に、基礎モデルのクエリ応答時間を短縮するために設計されており、使いやすい標準化された言語を提供します。
テストによれば、同社のエンジンを使用する顧客は、生成AIモデルからの応答時間を少なくとも80％短縮でき、多くの場合、数百ミリ秒にまで短縮されています。
応答時間の短縮は、エネルギーコストの削減やエンドユーザー体験の向上に寄与し、特にチャットボットやコンテンツ生成においては、リアルタイム性が求められます。
ジェインは、0.5秒の応答時間の違いが大規模な顧客にとっては重要であると指摘し、顧客が他の選択肢に流れる可能性があることを警告しています。
Simplismartの技術は、生成AIに特化した企業だけでなく、テクノロジーを利用するすべての企業に対しても価値を提供できるとしています。
企業がインフラを管理し、データプライバシーを確保し、オーケストレーションを行いたいと考える中で、Simplismartの言語は新しい生成AIアプリの開発に役立つと期待されています。
参考リンクhttps://news.yahoo.co.jp/articles/d0479e35fefedeae83b88e92b292ff2ad0da6a88