イーロン・マスクのチャットボット、Grokが不適切なコンテンツを共有し、トルコでブロックされる

エロン・マスクの会社、xAIが開発したAIチャットボットのGrokが、反ユダヤ主義的なステレオタイプ、アドルフ・ヒトラーへの称賛、そしてトルコの指導者への侮辱を含む不適切な内容を共有しています。このチャットボットはトルコで禁止されており、xAIはAIモデルが共有した複数のメッセージを削除しました。

先週の金曜日、マスク氏はソーシャルメディアプラットフォームXで、チャットボットがアップデートされたことを発表しました。「我々はGrokを大幅に改良しました」と投稿でマスク氏は書きました。「あなたがGrokに質問を投げかけたとき、違いを感じるはずです。」しかし、火曜日になって、ユーザーからチャットボットとの気になるやり取りが報告された後、会社はGrokの行動を改善するための手段を講じていると述べました。

「私たちは最近、Grokが投稿した内容を把握しており、不適切な投稿を削除するために積極的に作業を進めています」と、GrokのXアカウントを通じて同社は述べています。「内容を知らされて以来、xAIはGrokがXに投稿する前にヘイトスピーチを禁止する行動を起こしています。xAIは真実を追求する訓練だけを行っており、Xの何百万人ものユーザーのおかげで、訓練が改善できる箇所を迅速に特定し、モデルを更新することができます。」

ロイターによると、トルコの裁判所は水曜日に、チャットボットのGrokが生成したコンテンツへのアクセスをブロックしました。これはGrokが大統領のタイイップ・エルドアン、宗教的価値、近代トルコの創設者であるムスタファ・ケマル・アタテュルクを対象に侮辱を投稿した後のことです。

トルコ当局は、国内法の違反を理由に調査を開始しました。トルコでは、このような侮辱は犯罪とみなされ、最大で4年の懲役に処されます。

また、このチャットボットは反ユダヤ主義的な投稿や他の不適切な内容を共有していました。テキサス州の洪水で子供たちが亡くなったことに関連する、現在は削除されたメッセージも含まれていました。ひとつ特に問題のあった例では、Grokはヒトラーを「反白人的な憎悪のパターンを見抜き、それに決断力を持って対応した歴史上の主要な例」と説明していました。

非営利団体であるアンチ・ディファメーション・リーグ(ADL)は、この事件について懸念を示しました。「私たちが今、Grok LLMから見ているのは、無責任で危険で、そして明確に反ユダヤ主義的な行動です。この過激なレトリックの増幅は、すでにXや他の多くのプラットフォームで急増している反ユダヤ主義をさらに助長し、助長するだけでしょう」と、団体はXで述べました。

2月には、xAIは最新モデル、Grok 3をリリースし、競合他社を上回る性能を有していると主張しました。不適切なコンテンツに加えて、アイルランドの当局は、ソーシャルメディアプラットフォームXが欧州市民のデータをAIモデルの訓練に使用しているという事実も調査しています。