米国、サンフランシスコ:
シリコンバレーに対する信仰が密かに高まっていることは、計り知れない影響を与える可能性がある。近い将来、人間レベルの人工知能をもたらすと期待されている大規模なAIモデルの進歩が鈍化している可能性がある。
2 年前に ChatGPT が熱狂的に発表されて以来、AI 信者は、ハイテク大手が筋肉のトレーニングとコンピューティングのためのデータの形で火に油を注ぎ続ける中、生成 AI の改善は指数関数的に加速すると主張し続けてきました。
その理由は、テクノロジーの期待を実現するには単にリソースの問題であり、十分なコンピューティング能力とデータを注ぎ込めば、人間レベルのパフォーマンスに匹敵するか、それを上回る汎用人工知能 (AGI) が出現するだろう、というものでした。
進歩は非常に速いペースで進んでいたため、イーロン・マスクを含む業界の主要人物がAI研究の一時停止を要求しました。
それでも、マスク氏の企業を含む大手ハイテク企業は後手に回らないよう数百億ドルを投じて前進を続けた。
Microsoft が支援する ChatGPT の作成者である OpenAI は、さらなる進歩に資金を提供するために最近 66 億ドルを調達しました。
CNBC によると、マスク氏の AI 企業である xAI は、大型モデルに動力を供給する最先端の電子部品である Nvidia チップ 10 万個を購入するために、60 億ドルを調達中だという。
ただし、AGI への道のりには問題があるようです。
業界関係者は、大規模言語モデル (LLM) が、より多くのパワーとデータを投入しても、猛烈なスピードで際限なく拡張できるわけではないことを認識し始めています。
巨額の投資にもかかわらず、パフォーマンスの向上は頭打ちの兆しを見せています。
AIの専門家であり、頻繁に評論家でもあるゲイリー・マーカス氏は、「OpenAIやMicrosoftのような企業の非常に高い評価は、主に、LLMが継続的な拡張により汎用人工知能になるという考えに基づいている」と述べた。 「私がいつも警告してきたように、それは単なる幻想です。」
「壁がない」
基本的な課題の 1 つは、AI トレーニングに利用できる言語ベースのデータの量が有限であることです。
OpenAI やその他のプロバイダーと協力する、AI 法務タスク会社 Spellbook の CEO、スコット・スティーブンソン氏によると、スケーリングを言語データのみに依存すると、必ず壁にぶつかります。
「研究所の中には、より多くの言語を提供することに集中しすぎて、言語は今後もさらに賢くなっていくと考えているところもありました」とスティーブンソン氏は説明した。
スタートアップHugging Faceの研究者でAIリーダーのサーシャ・ルッチョーニ氏は、企業がモデル開発の目的ではなく規模に重点を置いていることから、進捗の停滞は予測可能だったと主張する。
「AGIの追求は常に非現実的であり、AIに対する『大きいほど良い』というアプローチはいずれ限界に達するのは必至だった。そしてこれが私たちがここで目にしていることだと思う」と彼女はAFPに語った。
AI 業界はこれらの解釈に異議を唱え、人間レベルの AI への進歩は予測できないと主張しています。
「壁はない」とOpenAI CEOのサム・アルトマン氏は木曜、詳細を明かさずにXに投稿した。
Anthropic の CEO、Dario Amodei 氏は、同社が Amazon と提携して Claude チャットボットを開発していますが、「これらの機能の増加速度に注目してみると、2026 年か 2027 年までにそこに到達すると思われるでしょう。」と強気なままです。
考える時間
それにもかかわらず、The Informationが引用した情報筋によると、OpenAIは、ChatGPTを強化するモデルであるGPT-4の待望の後継モデルのリリースを延期した。その理由は、その機能の向上が予想を下回っているためである。
現在、同社は既存の機能をより効率的に活用することに注力しています。
この戦略の変化は、トレーニング データの増加ではなく推論の改善を通じてより正確な答えを提供するように設計された最新の o1 モデルに反映されています。
スティーブンソン氏は、OpenAIがモデルに「応答するのではなく考えることに多くの時間を費やす」よう教えることに移行し、「根本的な改善」につながったと述べた。
同氏はAIの出現を火の発見に例えた。データやコンピューターの能力という形でさらなる燃料を投入するのではなく、特定のタスクにそのブレークスルーを利用する時期が来ています。
スタンフォード大学のウォルター・デ・ブラウワー教授は、高度な LLM を高校から大学に移行する学生に例え、「AI ベイビーは多くの即興を行うチャットボットであり」、間違いを犯しやすいと指摘しました。
「飛躍する前に考えるというホモ・サピエンスのアプローチが到来している」と彼は付け加えた。
(見出しを除いて、この記事は NDTV スタッフによって編集されておらず、シンジケート フィードから公開されています。)