ソラの透かしは信用できない

OpenAIがこのアプリを発表したとき、真っ先に心配したのは、誰かが透かしを削除する方法を見つけて、インターネット全体に混乱が広がるのではないかということでした。私の予想は間違っていませんでした。AI動画をさらにリアルにしたいと考えている人たちには、既に多くの選択肢があります。しかし、私が予想していなかったのは、その逆の事態です。本物の動画にSORAの透かしを追加して、まるでAIで作成されたかのように見せたい人がいるのです。

最近、X でスクロールしていた (というか、ドゥームスクロールしていた) 時に、Apple の幹部 Craig Federighi が登場する以下の動画など、いくつかの動画が目に入るようになりました。投稿には「sora はますます良くなっている」と書かれており、Sora の透かしも含まれていたので、誰かがフェデリギをこのアプリにカメオ出演させて X に投稿したのだろうと思いました。ところが驚いたことに、この動画は Apple が事前に録画した WWDC イベントから抜き出したもので、フェデリギが Apple 本社周辺でパルクールをする動画でした。

その後、Soraの透かしが使われているこのクリップを見ました。一見するとOpenAIの製品だと勘違いしてしまうかもしれません。しかし、よく見ると、このクリップには実際の人物が使われていることがわかります。AIによる動画生成にありがちなぼやけやグリッチがなく、ショットは完璧です。このクリップは、Soraが複数の人物の会話を映し出すマルチショットクリップを生成する手法を模倣しているだけです。（注意深い視聴者なら、透かしが実際のSoraの透かしよりも少し大きく、動きが鈍いことにも気づくかもしれません。）

このツイートは現在利用できません。読み込み中か削除された可能性があります。

実は、2つ目の動画を投稿したアカウントは、どんな動画にもソラのウォーターマークを追加できるツールも作っていました。ツールの意図や用途については説明されていませんが、確かに実在するものです。たとえこのツールがなくても、ソラのウォーターマークを動画に編集するのはそれほど難しくないでしょう。特に、ソラの公式ウォーターマークの動きを再現することにこだわらなければなおさらです。

念のため言っておきますが、透かしツールが追加される前から、既にこのような投稿がありました。ジョークのネタは、ソラを使って何かを作ったと言いながら、代わりに人気動画や悪名高い動画を投稿することです。例えば、15年前のドレイクのスプライトのCM、The Eras Tourでのテイラー・スウィフトのダンス、ソニック・ザ・ヘッジホッグの映画全編などです。これは面白いミームで、特にその動画がソラの作品ではないことが明らかな場合はなおさらです。

このツイートは現在利用できません。読み込み中か削除された可能性があります。

現実か非現実か？

しかし、これはフィード上の動画をスクロールする際に常に注意を払うべき重要な警告です。本物ではない動画だけでなく、実際には本物なのにAI生成だと宣伝されている動画にも注意が必要です。ここには多くの意味合いがあります。確かに、話題の動画にSORAのウォーターマークを貼り付けるのは面白いですが、違法行為の実際の動画に誰かがウォーターマークを追加したらどうなるでしょうか？「ああ、この動画は本物じゃない。ウォーターマークのない動画はすべて改ざんされたものだ」と。

現時点では、SORAの透かしを完全に再現する方法を誰も見つけていないようです。そのため、本物の動画をAI動画として偽装しようとする人が実際に現れれば、その兆候は明らかになるでしょう。しかし、それでもまだ少し不安な状況で、解決策が何なのかは分かりません。もしかしたら、インターネット動画は一律に信頼できないものとして扱われる未来に向かっているのかもしれません。本物と偽物の区別がつかないのであれば、そもそも試す意味がないのではないでしょうか。

次の記事へスクロールしてください