FTC、AIを活用した音声クローンの被害を防ぐための挑戦を発表

テキスト読み上げ AI が進歩するにつれて、音声クローン技術も進歩しました。この見通しは有望である可能性があるが、FTC の観点からすると、音声クローンは消費者保護に関する深刻な懸念も生じます。 FTC は、公衆への危害を防ぐために幅広いツールを使用することに取り組んでいます。それが、発表されたばかりの Voice Cloning Challenge の理由です。

音声クローン技術は、事故や病気で声を失った人など、一部の人々に希望をもたらす一方で、FTCは、詐欺師が自分たちの武器庫にAIを加えている方法に注意を呼び掛けている。おそらく聞いたことがあるでしょう 家族緊急詐欺 投獄または入院し、すぐにお金が必要でパニックに陥った親族からと思われる電話がかかってくる。最近まで、詐欺師は音声が正しく聞こえない理由を考え出す必要がありました。しかし、人工知能を導入すると、相手側の犯罪者は 家族になりすます音声クローン技術。

これは、政府機関が技術開発とイノベーションを促進するための課題を作成できるようにするアメリカ競争法に基づいてFTCが後援する5回目の課題となる。たとえば、他の課題により、違法なロボコールを削減し、モノのインターネット デバイスに関連するセキュリティの脆弱性に対処するための新しいツールの作成が促進されました。 AI を利用した音声クローンの悪用 (なりすまし詐欺から音楽作成のための誰かの声の悪用まで) によって引き起こされる危害から人々を守るための最善のアプローチを提出します。 Voice Cloning Challenge の最高賞金は 25,000 ドルです。参加に関する詳細については、FTC Voice Cloning Challenge ページをお読みください。

2024 年 1 月 2 日に提出の受け付けを開始します。しかし、今こそ、天才的な歯車を回転させて、次のようなさまざまな介入ポイントで潜在的な解決策を検討するときです。

• 音声クローン ソフトウェアの使用を許可されたユーザーに制限することを含む、防止または認証。
• 消費者の知らないうちに音声がクローン化されているか、クローン化された音声で話している場合に消費者に警告するための検出と監視、および/またはクローン化された音声を使用した通話をブロックする。そして
• 消費者や企業がオーディオ クリップにクローン音声が含まれているかどうかを確認するのに役立つ評価リソース、システム、またはツール。

これらは可能性のほんの一部ですが、トーマス・エジソンの言葉を借りれば、次のようになります。さあ、見つけてください。」