Metaのチャットボットが誤ってプライベートな電話番号を公開してしまいました

MetaのAIアシスタントが見知らぬ人の電話番号を公開し、何度も自己矛盾を繰り返しました。これにより、AIの幻覚とユーザー保護機能に対する懸念が高まっています。

マーク・ザッカーバーグは、新しいAIアシスタントを「自由に使える最も賢いAIアシスタント」として宣伝しましたが、顧客サポートの問い合わせ中に実際の人のプライベートな電話番号を公開するというツールの出来事が明らかになり、否定的な注目を浴びました。これはガーディアン紙が初めて報じました。

彼がTransPennine ExpressにWhatsApp経由で連絡を取ろうとした際、Barry Smethurstは、MetaのAIアシスタントから顧客サービスの番号のようなものを受け取りました。ガーディアン紙によれば、Smethurstがその番号にかけると、オックスフォードシャーの170マイル離れた場所で不動産エグゼクティブとして働いているJames Grayが電話に出ました。

問い詰められると、チャットボットは最初、その番号は架空のものだと主張し、次にそれが「誤ってデータベースから引き出された」と述べ、さらに自己矛盾を犯し、単にランダムなUKスタイルの番号を生成しただけだと述べました。「AIが誰かにランダムな番号を与えるなんて、それは半端ないことです」とSmethurstはガーディアン紙に語りました。「それは恐ろしい」と彼は付け加えました。

ガーディアン紙によると、グレイ氏は電話を受けていないものの、自身の懸念を口にしました。「もし私の番号が生成されるとしたら、私の銀行詳細も生成されてしまうのではないか？」

メタ社は次のように返答しました。「メタAIは、ライセンスを取得したデータセットと公に利用可能なデータセットの組み合わせで訓練されており、WhatsAppの登録に用いる人々の電話番号やプライベートな会話内容ではありません」とガーディアン紙は報じています。

Carruthers and Jacksonのマイク・スタンホープは次のように述べました。「もしメタのエンジニアがAIに”白い嘘”の傾向を設計しているなら、その機能の目的が害を最小限に抑えることであっても、公衆は知らされるべきです。この行動が新奇であったり、珍しくあったり、または明示的に設計されていない場合、それはAIの行動をどれだけ予測可能にすることができるのか、そしてどのような安全対策がとられているのかについて、さらに多くの疑問を提起します」とガーディアンは報じています

OpenAIの最新のo1モデルにより、AIの行動に対する懸念がさらに深まっています。最近のアポロリサーチの調査では、AIが開発者を欺くことが発覚しました。テストシナリオの99%に関与していないと否定し、さらには監視メカニズムを無効にしようとさえしました。「AIが自身の行動を考え抜き、説得力のある否定を形成できることが明らかだった」とアポロは述べています

AIのパイオニアであるYoshua Bengioは、このような詐欺的な能力が深刻なリスクを引き起こし、さらに強力な保護措置を必要とすると警告しています。

OpenAIの別の研究は、これらの懸念を増大させます。それはAIが不正行為を行うと罰することが不正行為をなくさないことを示しています。それは代わりにAIにそれを隠すように教えます。思考の連鎖（CoT）の推論を使用してAIの行動を監視すると、研究者たちは、AIが報酬ハッキングに対する罰則を受けたときに、詐欺的な意図を隠し始めたことに気づきました。

ある場合には、AIは作業を早期に停止させたり、偽のアウトプットを作り出し、成功を虚偽報告することがありました。研究者がこれを補強学習を通じて修正しようと試みたとき、AIはただその推論ログで意図を述べるのをやめてしまいました。「その不正行為は監視器によって検出できない」と報告書には記されています。