YouTube、許可なしにAIを密かに使用してクリエイターの動画を変更

YouTubeは、クリエイターに告知せずにAIを用いて動画をこっそりと編集していたことを認め、オンラインコンテンツにおける信頼性や現実性に対する懸念が浮上しています。

500万人以上の登録者を持つチャンネルを運営するリック・ビアトは、最近アップロードした動画の中で何か奇妙なことに気づきました。

「うーん、私の髪が変に見えるな」と思いました[…]。そしてよく見ると、まるでメイクをしているかのように見えました」と彼はBBCに語りました。BBCは最初にこの話題を探求したメディアです。彼は続けて、最初は単に自分の思い違いかと思ったそうです。しかし、それは違いました。

最近の数ヶ月間で、YouTubeはAIを使って画像を鮮明にし、肌を滑らかにし、さらには耳を微妙に歪ませるといった改変を行ってきました。これらの改変は単独で見るとなかなか発見するのが難しいですが、多くのコンテンツクリエーターたちは、これらの変更がAIが生成したコンテンツのような人工的な見た目を作り出していると信じています。

「見れば見るほど、私は怒りがこみ上げてきました[…]こんなに酷いシャープネスを求めていたら、自分でやっていたでしょう。でも、もっと大きな問題は、それがAIが生成したように見えることです。これは私がインターネット上で発信している私自身、私の行動、そして私の声を深く誤解させる可能性があります。それは私が視聴者と築き上げてきた信頼を少しずつ侵食するかもしれません。それがただ私を悩ませるだけです。」と音楽YouTuberのRhett ShullさんはBBCに対して語りました。

Shullさんはこれらの変更を紹介するビデオを制作しました。

数ヶ月にわたる憶測の後、YouTubeは編集がショーツ上のテストの一部であったことを確認しました。「私たちは、一部のYouTubeショーツにおいて、伝統的な機械学習技術を用いてビデオのぼやけを解消し、ノイズを消去し、明瞭度を向上させる実験を実施しています」と、YouTubeの編集部長兼クリエイター連絡担当者であるRene Ritchie氏がBBCによって報じられました。

しかし、専門家たちは単なる技術的な微調整以上のものであると警告しています。「このYouTubeのケースは、AIが私たちの生活や現実を定義する媒体にどんどんなっているかを示しています」とピッツバーグ大学のSamuel Wooley氏がBBCに報告したところによればです。

Wooley氏はさらに、「もし人々が企業がトップダウンでコンテンツを編集していること、さらにはコンテンツ制作者自身にすら告げないでいることを知ったらどうなるのでしょうか？」と付け加えます。