Apple ですら、人工知能の幻覚に対して安全というわけではありません。 Google の Gemini (ユーザーにピザに糊をつけるよう指示するプラットフォームなど)、Microsoft、OpenAI の ChatGPT などで、このようなことが頻繁に起こっているのを私たちは見てきました。
Apple には、Apple Intelligence プラットフォームの幻覚を防ぐためのプロンプトも用意されていますが、だからといって、いくつかの間違いが起こらないというわけではありません。今、 BBCニュース 報道によると、ジャーナリストNGO「国境なき記者団」がAppleに対し、通知概要の使用を中止するよう求めたという。
この機能は iOS 18.1 で導入され、iOS 18.2 で改善されました。これにより、Apple はすべての通知を 1 つのスタックにまとめます。これにより、iMessage グループや X 通知などをすぐに確認できるようになります。
ただし、ユーザーは、時々問題が発生することにすでに気づいています。 トップジャーナリストのジョアンナ・スターン かつて、妻に夫がいることを知って驚いた人もいた（Apple Intelligenceは、彼女が女性ではなく男性のことを話していると推測した）。また、Apple Intelligenceを通じて、あまりデリケートではない別れのイメージを共有した人もいる。
残念なことに、最近のルイージ・マンジョーネ事件のように、Apple Intelligence の幻覚がより頻繁になっているようです。医療保険のCEO殺害の容疑で告発されたこの男は、同プラットフォームが刑務所内で自殺したことを（BBCニュースのプッシュ通知を通じて）ユーザーに通知したが、実際には自殺はしなかった。
出版物には次のように書かれています。
BBCが苦情を申し立てた 人工知能 (AI) を使用して通知を要約し、グループ化する Apple Intelligence が、殺人容疑者のルイージ・マンジョーネに関する誤った見出しを作成したことを受けて、米国のハイテク大手にこの記事を投稿しました。 AIを活用した要約は、BBCニュースがニューヨークで医療保険のCEOブライアン・トンプソンを殺害した容疑で起訴されたマンジョーネが自殺したと主張する記事を掲載したかのように誤って報道した。彼はそうではありません。
さらに、国境なき記者団は、今回の事件は「生成AIサービスはまだ未熟であり、国民に信頼できる情報を提供できない」ことを証明しているとの声明を発表した。さらに、「RSFはAppleに対し、この機能を削除することで責任を持って行動するよう求めている。報道機関による虚偽の情報が自動的に作成されることは、その報道機関の信頼性に打撃を与え、時事問題に関する信頼できる情報に対する国民の権利に対する危険です。」
Appleはこの件についてコメントしていない。それでも、将来の Apple Intelligence の幻覚は、他の人に危害を与えたり、フェイクニュースを広めたり、市場を変えたりする可能性があります。
おそらく、Apple は Apple Intelligence のアルゴリズムを改善し続けるでしょう。ただし、当面は同社のAIプラットフォームが通知ニュースを要約することを禁止すれば、より安全になる可能性がある。
BGR Apple から連絡があればお知らせします。
