X全ユーザー向け「Grok」機能の拡大と安全性問題

「Grok」のチャットボットと画像生成機能がXの全ユーザーに開放され、質の高い回答を提供する一方で、安全対策に課題が残ることが報告されています。

要約すると「Grok」のチャットボットと画像生成機能が、X（旧Twitter）の全ユーザーに利用可能になった。

Elon Musk氏がプラットフォームを買収して以来、Grokアシスタントを通じてAI機能の強化が進められてきたが、最近のアップデートで無料ユーザーも「Grok 2」のチャットボットにアクセスできるようになった。

具体的には、米国時間12月9日から、無料ユーザーは2時間ごとに最大10件のメッセージを送信できるようになった。

この新機能は、ChatGPTに似たユーザーインターフェースを持ち、質の高い回答を提供することが確認されている。

さらに、Grokには新たに「Aurora」と名付けられた画像生成ツールも追加され、非常に写実的な画像が生成できることが報告されている。

しかし、画像生成に関しては安全対策が不十分であり、著作権で保護された画像や不適切な内容がブロックされていない事例も見受けられた。

TechCrunchのテストでは、Auroraが「血まみれのトランプ」の画像を生成するなどの問題が発生し、公開数時間後にはこの機能がGrokから削除された。

ただし、xAIはAuroraの新モデルを訓練しており、今後Xのユーザーに展開予定であることが発表された。

新モデルは、画像を入力データとして使用することも可能で、生成された画像には特異なキャラクターの描写が含まれている。

Grokの新機能は、1週間以内に全ユーザーに展開される見込みであるが、現在のところ、筆者のアカウントでは旧モデルの表示が続いている。

最近の投稿