AIフェスティバル 2024でSambaNovaが無料で利用できる「SambaNova Cloud」を紹介。爆速のAI推論が体験可能。
要約すると「AIフェスティバル 2024 Powered by GALLERIA」が東京・秋葉原のベルサールで開催されており、AIスタートアップのSambaNova Systemsがブースを出展しています。
このイベントは11月9日まで行われ、SambaNovaは独自のデータフローアーキテクチャを用いたAI推論プラットフォーム「SambaNova Cloud」を紹介しています。
SambaNova Systemsは2017年に設立され、GPUよりも10倍の速度で推論を行い、消費電力は10分の1に抑えられることが特徴です。
ブースでは、最新の「Llama 3.1」モデル（8B、70B、405B）や、画像認識機能を持つ「Llama 3.2」のVision Modelが実際に動作するデモが行われており、参加者はその“爆速”の性能を体験することができます。
興味深い点は、使用するモデルによって1分間のリクエスト数に制限があるものの、ログインをすることで誰でも無料でAPIにアクセスできることです。
待ち時間もなく、手軽にAI技術を体験できる機会が提供されています。
このように、SambaNova CloudはAI技術の普及を促進する手段として注目を集めています。
参考リンクhttps://news.yahoo.co.jp/articles/99a92e1bcd5f9b420717311ac46809bbbfda1a36