ソラ2

OpenAIは、Sora 2をSoraの大幅なアップグレードとして宣伝しており、それぞれGPT-3.5とGPT-1と比較しています。同社によると、この新しいモデルは、以前のモデルでは不可能だった複雑な動画を生成できるとのことです。具体的には、オリンピックの体操のルーティン、水の物理法則を「正確に」モデル化したパドルボードでバックフリップを披露する男性、肩に猫を乗せてトリプルアクセルを成功させるスケーターなどが含まれます。

このツイートは現在利用できません。読み込み中か削除された可能性があります。

AI動画モデルに共通する欠点の一つは、現実世界の物理法則を理解していないことです。映像はリアルに見えても、要素がランダムに変形したり、意味もなく消えたり再び現れたりすることがあります。OpenAIによると、Sora 2ではこうしたミスはそれほど多くありません。ゴールを外したバスケットボールが魔法のように再び現れるわけではなく、予想通りバックボードに跳ね返るのです。同社は、モデルはまだ不完全ではあるものの、改善されていると警告しています。この点を踏まえ、モデルは異なるショット間の連続性が向上しています。OpenAIの言葉を信じるなら、動画はテイク間で一貫性を保ち、「リアル」「シネマティック」「アニメ」など、様々なスタイルを表現できるはずです。

Sora 2の最大の飛躍は、おそらくOpenAIが「Cameo」と呼ぶ、現実世界の要素をモデルに追加できる機能でしょう。Sora 2のモデルに実在の人物を組み込み、AIに任意の動画に合成させることができます。OpenAIは、スタッフが様々な動画に自分自身を追加した例をいくつか公開しています。画質にはばらつきがあるものの、JibJabの時代からすれば、これは飛躍的な進歩と言えるでしょう。

GoogleのVeo 3モデルと同様に、Sora 2はリアルな音声付きの動画を生成できます。発表ビデオでは、象が吠え、スケーターが氷の上を滑走し、水しぶきが地面に飛び散る様子が紹介されています。しかし、さらに印象的（かつ懸念されるのは）なのは、人間が話していることです。このビデオでは、AIによって生成されたサム・アルトマンが新しいモデルとアプリについて説明していますが、これがAIであることは私たちのような人間には明らかですが、多くの人は、この動画に映っているのが本物のアルトマンではないことに気づかないかもしれません。

ソラアプリ

OpenAIは、Soraアプリは「コミュニケーションの自然な進化」として生まれたと述べています。同社は、特に自分の顔や肖像をモデルにアップロードする機能を通じて、ユーザーが他のユーザーのAI世代を作成およびリミックスできる手段になると考えています。

現時点ではアプリは招待制ですが、App Storeから無料でダウンロードできます。OpenAIが火曜日に公開したデモビデオや、すでにアクセスしているユーザーの投稿から、その体験を垣間見ることができます。

OpenAIのデモの最初の例は、OpenAIの研究員ビル・ピーブルズ氏とサム・アルトマン氏の二人のカメオ出演です。動画には二人が会話するエスタブリッシングショットがあり、そこからピーブルズ氏がアプリの収益について早口で話すクローズアップに切り替わり、次にアルトマン氏がピーブルズの暴言を聞き入るクローズアップに切り替わり、最後に元のエスタブリッシングショットに戻ります。一見すると、TikTokやReelsで一気に見てしまうような動画のように見えますが、この動画は完全にAIによって生成されています。

OpenAIのスタッフは、他にも様々な生成済みサンプルを披露しています。例えば、Cameoが漫画に変身する動画、エフェクトをアニメに切り替える動画、スタッフの一人がケチャップ中毒であるという「ニュース」レポートを生成する動画などです（ちなみに、最後の動画はかなりグロテスクです）。また、フィードで見つけた動画をリミックスする方法も実演しています。Soraに指示すれば、動画を好きなように調整できます。ある動画では、ピーブルズがSora 2のコロン「広告」に出演していますが、他の動画では、歯磨き粉の広告や、韓国語のみの広告にリミックスされています。

これらの動画は非常にリアルです。ある動画では、ただのテニスの試合のクリップを見ているつもりが、実はOpenAIのローハン・サハイ氏とのCameoだったりします。サハイ氏が試合に勝利した後、動画は彼の「インタビュー」に切り替わり、そこで彼はアンチたちに感謝の意を表します。他の動画は明らかにAIによるものですが、これもまた、スクロールして見ているほとんどの人が気付くほどではありません。

OpenAIによると、安全性とセキュリティ

Cameoはプライバシーとセキュリティの面で悪夢のように聞こえますが、OpenAIはいくつかの保護対策を講じています。動画に誰かの顔を勝手に使用することはできず、プラットフォームにアップロードできるのは自分の顔だけです。アプリでCameo機能を設定するのは簡単ですが、非常に面倒です。アプリはiPhoneのFace IDの設定のように顔をスキャンし、そのデータをOpenAIの「システム」に送信して「徹底的な検証」を行い、なりすましや、あなたの同意なしにCameoを作成しようとするユーザーをブロックします。承認されると、自分のCameoを作成できるユーザー（すべてのユーザー、友人、あなたが明示的に承認したユーザー、またはあなただけ）を選択できます。

動画自体については、Soraアプリはアプリからエクスポートされたすべてのクリップに目に見える透かしを入れます。インターネットでこれらの動画をご覧になったことがある方は、TikTokのクリップを他のプラットフォームにエクスポートした際に見られる透かしと同様の、小さな「Sora」スタンプが各動画に表示されていることにお気づきでしょう。また、特にCameosに関しては、ユーザーによる「有害な」コンテンツの作成をブロックするための推論モデルが内部的に搭載されています。

10代の若者がSoraアプリをご利用の場合、永遠にスクロールし続けることはできません。しばらくスクロールすると、AI動画を何時間もスクロールし続けることを防ぐクールダウン期間が設けられます。大人のアカウントにはこの制限はありませんが、アプリが休憩を促す「ナッジ」機能を備えています。

誰がこれを頼んだんですか？

OpenAI とその安全チームに敬意を表しますが、このアプリはさまざまな理由から大惨事になりそうです。

例えば、OpenAIのおかげで、Siriに天気を尋ねるのと同じくらい簡単に、超リアルな短編動画を生成できるようになりました。これらの動画にはすべて透かしが入っているのは承知していますが、それを編集するのはそれほど難しいことではありません。少なくとも、ほとんどの人が気付かない程度には。これが広く普及すれば、ソーシャルメディアのフィードはすべてこのコンテンツで埋め尽くされるでしょう。しかも、その多くが非常にリアルな映像と音声で提供されているため、多くの人が騙されることになるかもしれません。

ウサギがトランポリンでジャンプするなど、くだらない動画だけでも十分ひどい。しかし、「政治家」がとんでもないことを言ったり、「有名人」が店から何かを盗んだりしたらどうなるだろうか？ある話題のSora動画では、サム・アルトマンがターゲットでGPUを盗んで逃げようとしたところを警備員に止められる様子が映っている。サム・アルトマンや、自分のカメオ出演者のリミックスを承認する他の誰かが犯罪を犯したり、単に恥ずかしいことをしたりするSora動画は、あとどれくらいあるのだろうか？十分な権力や名声を持つ者は、これらの動画の真偽を検証できるかもしれないが、その時はもう手遅れだ。見たほとんどの人はそれを事実として受け取るだろう。

このツイートは現在利用できません。読み込み中か削除された可能性があります。

他のユーザーのCameoを無断でリミックスするのを防ぐセキュリティ対策が講じられているのは素晴らしいことですが、悪用されるリスクは非常に高いです。もし誰かが動画から誰かの顔を「スキャン」する方法を見つけたり、他のユーザーが元の顔スキャンを使用できないようにする設定を破ったりしたらどうなるでしょうか？もしOpenAIのセキュリティ対策を回避できれば、プラットフォームが承認したあらゆる動画にその人の顔をリミックスできるようになります。そうなれば、もはや秘密は漏れてしまいます。

いいかい、僕はしょっちゅうオンラインにいる。フィードにAIが作った良質なミームが流れてきても、それを楽しめないふりをするつもりはない。でも、AIが作った脳内腐敗みたいなものばかりスクロールして自由時間を過ごすつもりはない。きっと、Soraを使って面白い動画を作ったり、友達とCameoを作って楽しんだりする人はいるだろう。でも、肝心なのはそこだ。この技術自体が目新しいだけで、そこから得られる良いことは何もない。

ネット上で目にするものを何も信じないようにしましょう。誰かがアプリででっち上げただけかもしれません。

次の記事へスクロールしてください