Appleは発表後に批判に直面している AIを活用した通知機能、アップル・インテリジェンスは、「ルイージ・マンジョーネが銃で自殺」とBBCの衝撃的な見出しを誤って報道した。誤解を招く警告は、ニューヨークで注目を集めたヘルスケアCEOブライアン・トンプソン殺害事件の容疑者マンジョーネ氏が自ら命を絶ったことを示唆していた。実際には、26歳のマンジョーネは依然としてペンシルベニア州で拘留され、ニューヨークへの引き渡しを待っている。
見出しに名前が誤ってリンクされていたBBCは、Appleに対して懸念を表明した。同放送局の広報担当者は「BBCニュースは世界で最も信頼されているニュースメディアだ」と述べた。 「私たちにとって、私たちの名前で公開されるあらゆる情報やジャーナリズムを視聴者が信頼できることが不可欠です。これには通知も含まれます。」
アップルはこの論争についてコメントを控えている。
AI が生成した概要は精査中
誤った通知は単独のインシデントではありません。今週初めに英国で開始された Apple Intelligence は、人工知能を使用して通知を要約し、グループ化するが、その不正確さで批判されている。
ニューヨーク・タイムズも、このツールが報道を不正確に要約し、「ネタニヤフ首相逮捕」という警告を出したことで同様の問題に直面した。この見出しはイスラエル首相に対する国際刑事裁判所の令状に関する記事を誤って伝えており、この特集の信頼性についてさらなる懸念を引き起こした。
教授ペトロス・イオシフィディス、 メディア政策の専門家 ロンドン市立大学の教授は、この事件はアップルにとって「恥ずかしいこと」だと述べた。 「これは、完全に準備が整っていないテクノロジーをリリースすることのリスクを示しています。偽情報が拡散する本当の危険があります」と彼は言った。
AI の広範な課題
iOS 18.1 以降を実行している一部のデバイスで利用できる Apple Intelligence は、ユーザーが通知の優先順位を付けるのに役立つように導入されました。しかし、その制限は、今年初めにGoogleがAIによって生成された検索候補など、ユーザーに石を食べるか、ピザに「無毒の接着剤」を使うようアドバイスするなど、これまでのAIの失敗との比較を引き起こしている。
BBCと他の出版社は現在、こうした誤りによる影響を管理する上でのAppleの説明責任を疑問視している。ニュース配信において AI の役割がますます重要になる中、今回の事件は、誤った情報を防ぎ、ジャーナリズムに対する国民の信頼を守るためのより強力な保護手段の必要性を浮き彫りにしました。
