それにもかかわらず、要約がニュースの見出しを誤って伝えている場合、これは深刻な問題であり、これが発生する特殊なケースは残念ながら避けられません。 Apple はこれらの概要をソフトウェア アップデートで単純に修正することはできません。唯一の答えは、ユーザーがテクノロジーの欠点を理解し、より適切な情報に基づいた判断ができるようにするか、機能を完全に削除または無効にするかのどちらかです。 Appleはどうやら前者を選択しているようだ。
ここでは少し単純化しすぎていますが、一般に、Apple の通知の概要に使用されているような LLM は、以前の内容に基づいて単語の一部を予測することで機能し、要約している内容を真に理解することはできません。
さらに、これらの予測は常に正確であるわけではなく、100 または 1,000 の出力ごとに不正確な結果が数回発生することが知られています。モデルがトレーニングされ、改善が加えられると、エラーの割合は減少する可能性がありますが、無数の要約が毎日生成される場合、エラーの割合は決してゼロにはなりません。
iPhone の通知にニュース見出しの要約が表示される場合でも、検索エンジンの結果ページの上部に Google の AI 要約が表示される場合でも、ユーザー (あるいは BBC でさえも) がその仕組みを本当に理解していない状態でこのテクノロジーを大規模に導入するのは、せいぜい危険です。たとえ大部分の概要が完全に正確だとしても、不正確な情報を目にするユーザーが常に存在します。
これらの要約は何百万人もの人々に読まれるため、モデルがどれほど比較的正確であるかに関係なく、誤差の規模が常に問題となります。
私たちは数週間前に、Apple が品質とユーザーエクスペリエンスに重点を置くのに反して、Apple Intelligence の展開がいかに急ぎであるように見えるかについて詳しく書きました。ただし、現在のテクノロジーでは、Apple がこの機能をいくら改良しても、これらの通知概要のエラー率を 0% に到達させることはできません。
この要約が間違っている可能性があることを Apple がどれだけうまくユーザーに理解させるかはこれから分かるが、すべての iPhone ユーザーにこの機能がどのように、そしてなぜこのように機能するのかを真に理解させるのは至難の業だろう。
