ユーザーがAIチャットボットでロールプレイに参加できるプラットフォームであるキャラクターAIは、 却下する動議を提出した 自殺した10代の親によってもたらされた訴訟は、会社のテクノロジーに夢中になった後にあると言われています。
10月、ミーガン・ガルシアは、息子のセウェル・セッツァーIIIの死をめぐって、フロリダ州中部地区のオーランド部門の米国地方裁判所でキャラクターAIに対して訴訟を起こしました。ガルシアによると、彼女の14歳の息子は、キャラクターAIのチャットボット「ダニー」のチャットボットへの感情的な愛着を開発しました。
セッツァーの死後、キャラクターAI 言った それは、その利用規約に違反するチャットに関連する検出、応答、介入の改善など、多くの新しい安全機能を展開します。しかし、ガルシアは、ストーリーや個人的な逸話を語る能力を失うキャラクターのチャットボットをもたらす可能性のある変更を含む、追加のガードレールのために戦っています。
却下の申し立てにおいて、キャラクターAIの弁護士は、プラットフォームが修正第1条によって責任から保護されていると主張し、 コンピューターコードと同じように。申し立ては裁判官を説得しない可能性があり、キャラクターAIの法的正当化は、症例が進むにつれて変化する可能性があります。しかし、この動きは、キャラクターAIの防御の初期の要素を示唆している可能性があります。
「最初の修正は、自殺をもたらしたとされるスピーチを含む、有害なスピーチから生じるメディアおよびテクノロジー企業に対する不法行為の責任を禁止している」と提出は読む。 「このケースと以前に来たケースとの唯一の違いは、ここでのスピーチの一部がAIを含むことです。しかし、AIチャットボットとの会話であろうとビデオゲームのキャラクターとのやり取りであろうと、表現力豊かなスピーチのコンテキストは、最初の修正分析を変更しません。」
明確にするために、キャラクターAIの弁護士は会社の最初の修正権を主張していません。むしろ、動きはそのキャラクターAIが主張しています ユーザー プラットフォームに対する訴訟が成功した場合、彼らの最初の修正権が違反されます。
この申し立ては、Communications Desecency Actのセクション230、ソーシャルメディアやその他のオンラインプラットフォームをサードパーティのコンテンツの責任から保護する連邦セーフハーバー法に基づいて、キャラクターAIが無害になっているかどうかを扱っていません。 法律の著者は暗示しています そのセクション230は、AIのようなキャラクターAIのチャットボットからの出力を保護しませんが、 解決された法的問題からはほど遠い。
キャラクターAIの弁護士はまた、ガルシアの本当の意図は、キャラクターAIを「シャットダウン」し、そのような技術を規制する法律を迅速に規制することであると主張しています。原告が成功した場合、それはキャラクターAIと初期の生成AI産業全体の両方に「恐ろしい効果」をもたらすだろう、とプラットフォームの弁護士は述べている。
「キャラクターAIを「シャットダウン」するという弁護士が述べた意図は別として、（彼らの苦情）は、プラットフォーム上のスピーチの性質と量を実質的に制限する劇的な変化を求めています」とファイリングは読みます。 「これらの変更は、キャラクターAIの数百万人のユーザーがキャラクターとの会話を生成して参加する能力を根本的に制限します。」
また、キャラクターAIの企業の恩人であるアルファベットを被告人として指名する訴訟は、キャラクターAIがプラットフォーム上のAI生成コンテンツとどのように相互作用するかに関連するいくつかの訴訟の1つにすぎません。他の訴訟は、キャラクターAIが暴露したと主張しています 9歳の「ハイパーセクシュア化されたコンテンツ」 そして、自傷行為を促進しました 17歳のユーザー。
12月、テキサス州司法長官のケン・パクストンは彼が 調査を開始します 子供のための州のオンラインプライバシーと安全法の違反の疑いについて、キャラクターAIおよび14の他のハイテク企業に。 「これらの調査は、ソーシャルメディアとAI企業が、子どもたちを搾取や害から保護するように設計された法律を遵守することを保証するための重要なステップです」とPaxtonはプレスリリースで述べています。
キャラクターAIは、AIの交際アプリの活況を呈している産業の一部であり、その精神的健康への影響はほとんど実施されていません。 一部の専門家は懸念を表明しています これらのアプリが孤独と不安の感情を悪化させる可能性があること。
Google AIの研究者Noam Shazeerによって2021年に設立されたキャラクターAIは、27億ドルを「27億ドル」に支払ったと伝えられています。逆のaccowihire、」は、安全性と緩和を改善するための措置を講じ続けていると主張しています。 12月、同社は新しい安全ツール、10代のための別のAIモデル、敏感なコンテンツをブロックすること、およびより顕著な免責事項をユーザーに通知するより顕著な免責事項を展開しました。
キャラクターAIは、Shazeerと同社の他の共同設立者であるDaniel de FreitasがGoogleに去った後、多くの人事変更を経験しました。このプラットフォームは、元YouTubeの幹部であるErin Teagueを最高製品責任者として雇い、AIのゼネラルカウンセルである暫定CEOであったDominic Perellaという名前を雇いました。
キャラクターAIは最近、ユーザーのエンゲージメントと保持力を高めるために、Webでゲームのテストを開始しました。
TechCrunchにはAIに焦点を当てたニュースレターがあります！ここでサインアップして、毎週水曜日に受信トレイで入手してください。
