OpenAIは月曜日、ビデオ生成ツール「Sora」をリリースした。しかし同社は、さらなるテストが行われるまで、ほとんどのユーザーに対して重要な機能をリリースしないことを選択している。
問題の機能は、アップロードされた実在の人物の写真または映像を参照として使用してビデオを生成します。 OpenAIは、Soraユーザーの「一部」にアクセスを許可するが、「安全性へのアプローチ」を微調整する機会が得られるまでは、この機能を広く展開することはないと述べている。
「アップロードされた実在の人物の写真やビデオを『シード』として使用してビデオを生成する機能は、潜在的な悪用のベクトルであり、私たちは初期の使用パターンから学ぶために特に漸進的なアプローチを取っています」とOpenAIは記事で書いている。 ブログ投稿。 「アーティストからの初期のフィードバックでは、これが強力なクリエイティブツールであることを彼らが評価していることが示されていますが、悪用の可能性を考慮して、最初からすべてのユーザーが利用できるようにするわけではありません。」
OpenAI また ユーザーは、実際の人物のクリップや画像を含む生成されたビデオを Sora のホームページ発見フィードに共有できなくなります。
OpenAI の技術スタッフのメンバーであり、Sora の研究主任である Will Peebles 氏は、「OpenAI として大きな目標を抱えていることは明らかです。そのため、Sora による違法行為を防止したいと考えていますが、それと創造的な表現のバランスも取りたいと考えています」と述べています。と今日初めのライブストリームプレゼンテーションで述べた。 「（これが）継続的な課題であることは承知しています。初日から完璧に達成できない可能性もあります。私たちは少し保守的な方向から始めているので、私たちのモデレートが十分に理解できない場合は、フィードバックをください。」
ジェネレーティブ ビデオは強力なツールですが、ディープフェイクや誤った情報が大きな懸念事項となっており、物議を醸すツールでもあります。 によると ID 検証サービス Sumsub のデータによると、世界中のディープフェイク詐欺は 2022 年から 2023 年にかけて 10 倍以上に増加しました。
OpenAIが悪用を防ぐために講じている他の措置の中でも、Soraには、生成されたビデオに18歳未満の人物が描写されているかどうかを検出するフィルターがある。そうである場合、OpenAIは性的、暴力的、または自己に関するモデレーションに「より厳しいしきい値」を適用する-有害なコンテンツ、と同社は主張する。
Sora が生成したすべてのビデオには、その出所を示すメタデータ、特に C2PA 技術標準に準拠したメタデータが含まれています。メタデータは削除したり付与したりできます。しかしOpenAIは、C2PAをサポートするプラットフォームがビデオがSoraからのものかどうかを迅速に検出する方法としてこれを売り込んでいる。
OpenAIは、著作権侵害の申し立てをかわすために、Soraが現役クリエイターのスタイルでビデオを生成するのを防ぐために「即時書き換え」を行っているとも述べている。
「ユーザーが生きているアーティストのスタイルでビデオを生成しようとしたときにトリガーされるように設計されたプロンプトリライト機能を追加しました」と同社は書いている。 「私たちは、Sora がクリエイティブ コミュニティでどのように使用されているかを詳しく知るため、このバージョンの Sora では保守的なアプローチを取ることにしました…創造性には、他のアーティストのスタイルを基にして構築するという非常に長い伝統がありますが、一部のクリエイターが懸念があるかもしれない。」
多くのアーティストが、独自のスタイルでコンテンツを逆流させるAIツールを作成するために許可なく作品をトレーニングしたとして、OpenAIを含むAI企業を訴えている。両社は、フェアユース原則により著作権侵害の申し立てから守られており、実際にはAIモデルは逆流することはないと主張している。
OpenAIはトレーニングで、Soraが「多様なデータセット」の組み合わせを使用して開発されたとだけ述べます。これには、公開データ、データベンダーとの提携を通じてアクセスした独自データ、社内で開発したカスタムセットが含まれます。今年初め、元 OpenAI CTO のミラ・ムラティ氏は、Sora が YouTube クリップでトレーニングされたことを完全には否定しなかった。 違反 Google 所有のストリーミング プラットフォームの使用ポリシー。
Sora の初期プレビューを入手したビデオブロガーのマーカス・ブラウンリー氏によると、このシステムはテキストプロンプトや画像から複数のバリエーションのビデオクリップを作成し、リミックスツールを介して既存のビデオを編集できるという。ストーリーボード インターフェイスを使用すると、ユーザーはビデオのシーケンスを作成できます。ブレンド ツールは 2 つのビデオを取得し、両方の要素を保持した新しいビデオを作成します。ループおよび再カットのオプションを使用すると、クリエイターはビデオやシーンをさらに微調整および編集できます。
OpenAI の ChatGPT Pro および Plus プランの加入者は、OpenAI のビデオ ジェネレーターである Sora に今日からアクセスできますが、これは特定の国に居住している場合に限ります。
