子供や十代の若者向けに販売されている匿名メッセージング アプリ: 何が問題になる可能性がありますか? FTCとロサンゼルス地方検事局は多くのことを主張している。 NGL Labsと創設者のRaj Vir氏とJoao Figueiredo氏に対する訴状では、FTC法、児童オンラインプライバシー保護規則(COPPA)、オンライン買い物客の信頼回復法(ROSCA)、およびカリフォルニア州ビジネスおよび職業規定の違反が申し立てられている。同社はまた、告訴状が虚偽であるとして AI 関連の主張を行った。 500万ドルの和解金は注目に値するが、特に注目に値するのは、子供や十代の若者たちへの匿名メッセージングアプリの販売を永久に禁止したことだ。
アプリ ストアで最もダウンロードされている製品の 1 つである NGL アプリは、「Not Gonna Lie」の略語にちなんで命名されていますが、苦情の申し立てに基づくと、「Not Gonna be Legal」の略である可能性があります。このアプリは、ユーザーが友人やソーシャルメディアの連絡先から匿名のメッセージを受信できるようにすることを目的としています。被告らは、「若者」が「友人からの判断や社会的圧力を受けることなく自分の感情を分かち合う」ための「楽しくて安全な場所」としてこの場所を明示的に売り込んだ。子どもによる匿名メッセージングアプリの使用を警戒する親たちに対し、被告らは「有害な言葉やいじめをフィルタリングする」ことを可能にする「世界クラスのAIコンテンツモデレーション」を宣伝することでその懸念を和らげた。アプリをダウンロードした消費者は、大量の個人情報を収集するアカウントを作成するよう促されたが、NGLは消費者の年齢を尋ねず、いかなる年齢審査も行わなかった。
詳細については訴状を読んでいただきたいと思いますが、一般的に言えば、アプリユーザーは「口説き文句を送ってください。それがうまくいったか教えてください」や「メッセージを共有してください」など、事前に生成されたプロンプトをソーシャル メディア アカウントに投稿することができます。これにより、プロンプトの視聴者は匿名のメッセージを書くことができました。さらに、多くのユーザーが「あなたは異性愛者ですか？」といった匿名のメッセージを受け取りました。 「私は何年もあなたに片思いをしているのに、あなたはまだ知りません、爆笑」、そして「私があなたをデートに誘ったら、イエスと答えますか？A」。受信者がメッセージを開くと、「誰がこれを送信したのか?」を確認するよう促すボタンが表示されました。有料の NGL Pro サブスクリプションが必要です。送信者の身元を知りたくて、多くの受信者がそのボタンをクリックしました。
これはNGLがユーザーと保護者に伝えたことの最も簡単な要約だが、6件の訴状を詳しく見てみると、FTCとロサンゼルス州検事局が実際に舞台裏で何が起こっていたのかが明らかになる。
FTCは、被告らが子供や十代の若者向けに匿名メッセージングアプリをマーケティングしていることを不当行為として異議を申し立てた。訴状によると、フィゲイレード被告は従業員に「人気のある子供たちに投稿してもらい、その友達にも投稿してもらう」よう促し、「高校の応援ページで人気のある女の子を見つけてインスタグラムで連絡を取るのが最良の方法だ」と述べた。 」別の NGL 幹部は、「我々が必要としているのは 20 代ではなく高校生です」と述べています。しかし、10代の若者を持つ親、あるいは10代だった人にとっては、10代をターゲットにした匿名メッセージングアプリがもたらす避けられない結果を予測するのは難しいことではない。ある高校の教頭が被告らに語ったところによると、生徒たちはこのアプリを使って「脅迫的」で「露骨な性的コンテンツ」を送信しており、「生徒たちの精神的健康と福祉に重大な影響を与えていた」という。訴状によると、NGLはネットいじめ、嫌がらせ、自傷行為に関する多数の報告を受けているにもかかわらず、マーケティング戦略や製品の運用方法を変更しないことを選択したという。
さらに、FTCとロサンゼルス検察庁は、被告らがアプリをプッシュするために複数の虚偽表示を使用したと主張している。たとえば、ユーザーが知っている人から来たと言われた匿名メッセージの多く（たとえば、「あなたの友達の一人があなたに何かを隠している」など）は、実際には企業自身が誘導する目的で送信した偽物でした。メッセージを送信した人の身元を知りたい人々に NGL Pro サブスクリプションを追加販売します。しかし、匿名メッセージが「侵略的」、「不安を誘発する」、「憎しみに満ちた」ものであるとする多数の苦情を受けた後でも、NGL 社内の対応は大喜び以外の何物でもありませんでした。訴状では、フィゲイレド被告の次のコメントが引用されている。 。 。毎日 (NGL アプリのリンク) を共有している人がいますが、彼らが受け取るのは偽の質問だけです 😂」
FTCとロサンゼルス検事局は、NGLが「世界クラスのAIコンテンツモデレーション」を利用して子供たちを守るという保護者に対する約束も誤解を招くものであることが判明したと述べている。訴状によると、同社が自慢のAIは有害な言葉やいじめを排除できないことが多かったという。匿名性の外に隠れている十代の若者たちが、「あなたは醜い」、「あなたは負け組だ」、「あなたは太っている」、「みんながあなたを嫌っている」などのメッセージを送信することを予測するのに人工知能は必要ありません。しかし、あるメディアは、アプリがその種の有害な（そしてあまりにも予測可能な）メッセージを選別できなかったと報じた。
さらに、ユーザーが NGL Pro にアップグレードしたとしても、誰がメッセージを送信したかは通知されず、その主張も欺瞞的になります。しかし、被告らの行為の問題はそれだけではなかった。訴状によると、消費者が「誰がこれを送信しましたか?」をクリックしたとのこと。ボタンには、これが 1 回限りの購入ではなく、定期的なネガティブ オプションであり、被告が 9.99 ドル (後に 6.99 ドル) を請求することは明確に伝えられていませんでした。 週あたり NGLプロ用。
被告らは、予期せぬ請求に関する消費者からの苦情や、「誰がこれを送ったのか?」の無効性についてよく知っていました。特徴。 Appleさえも、自社の製品が「ユーザーに対して請求額を明確かつ目立つように表示しないことで、顧客を操作して望まないアプリ内購入をさせようとしている」と被告らに警告した。被告たちはどう反応しましたか？ NGL の製品責任者は、被告のヴィル氏およびフィゲイレド氏との文書による話し合いの中で、消費者の苦情に対する同社の反応を「クソ野郎」と簡潔に要約した。 FTCによると、被告らが自社のNGL Proアプリの販売を誇大宣伝するためにオンラインのネガティブ・オプションを使用したことは、ネガティブ・オプションを使用して製品をオンラインで販売する企業に対し、消費者の同意を取得する前に取引の重要な条件をすべて明確かつ目立つように開示することを義務付けるROSCAに違反したという。請求情報を確認し、請求を行う前に消費者から明示的なインフォームドコンセントを取得します。
FTCはまた、同社がInstagramやSnapchatのユーザー名やプロフィール写真、位置情報、閲覧履歴などのユーザーの個人データを収集し、無期限に保管していたと述べた。訴訟では、被告らが以下の規定に違反したと主張している。 CUPルール 保護者への適切な通知の怠り、検証可能な保護者の同意の取得を怠り、13 歳未満の子供のデータのさらなる使用を停止または削除するための合理的な方法を親が提供しないことによって発生します。
訴状ではカリフォルニア州消費者保護法に対する複数の違反も主張している。
和解案には、消費者救済に450万ドル、ロサンゼルス検察局に対する民事罰金50万ドルの計500万ドルの金銭的救済が含まれている。しかし、最も重要なことは、この命令により、被告が 18 歳未満の子供に匿名メッセージング アプリを提供することが禁止されたということです。その禁止はいつまで実施されるのでしょうか?永遠に。
とりわけ、和解案では被告に対し、18歳未満の現在および将来のユーザーがアプリにアクセスすることを防ぐ年齢ゲートの導入を義務付け、被告が保有する相当量のユーザー情報の破棄を義務付けている。さらに、被告は、ネガティブ・オプションのサブスクリプションについて消費者に請求する前に、消費者から明示的なインフォームド・コンセントを得なければならず、それらのサブスクリプションをキャンセルするための簡単なメカニズムを提供し、消費者にネガティブ・オプション料金に関するリマインダーを送信しなければなりません。
他の企業はこの和解からどのような指針を得ることができるでしょうか?
FTCは両方の子供を守るためにあらゆる手段を使うだろう そして 十代の若者たち。 確かに コッパ は、13 歳未満の子供を保護し、ハイテク企業ではなく親が子供の個人情報を管理し続けるための重要なツールです (そして今後も)。しかし、この措置はまた、十代の若者たちの精神的および身体的健康にリスクをもたらす情報慣行に対するFTCの懸念を強化するものでもある。
自分の主張を確実な証拠で裏付けることができない場合は、自社の AI ツールの使用を宣伝しないでください。 被告が残念ながら「セーフティ センター」と名付けた組織は、親や教育者がこのアプリに関して抱くであろう不安を正確に予測し、AI が問題を解決すると約束して彼らを安心させようとした。 AI の話題を悪用している企業が多すぎます その日の 人工知能の想定される使用について虚偽または欺瞞的な主張をすることによって。 AI関連の主張は誇張ではありません。これらは、FTC の長年にわたる実証原則の対象となる客観的な表現です。
ROSCA 違反については、「大爆笑に値する」ものは何もありません。 FTCは何十年もの間、FTC法とオンライン買い物客の信頼回復法の両方を利用して、違法なネガティブオプションに対抗してきました。訴状によると、被告らは十代の若者たちに「デートに誘ったらイエスと答えるか」などの匿名の質問をし、抵抗しがたい「これを送ったのは誰ですか？」という質問を提示した。同社がネガティブオプションのサブスクリプションに登録し、毎週請求していることを明確に説明せずに、ボタンを押した。被告らが十代の若者たちに対してこの違法なおとり戦術を使用し、それを嘲笑したということは、彼らが与えた経済的損害にさらに厚かましい侮辱を加えるものである。
