- AWSは、NvidiaのGPUと競合する新しいAIチップを発売した。
- AWSは、自社の目標は顧客により多くの選択肢を提供することであり、AIチップ市場でNvidiaの座を奪うことではないとしている。
- AWS のシニアディレクターである Gadi Hutt 氏も、Intel、Anthropic、AMD とのパートナーシップについて語りました。
アマゾン ウェブ サービスは今週、AI チップのアップグレード製品ラインを発売し、同社は Nvidia と真っ向から競合することになった。
ただし、AWS はそのようには考えていません。
AWSの新しいAIチップはNvidiaのランチに追随するものではないと、同社のチップ設計子会社Annapurna Labsの顧客および製品エンジニアリング担当シニアディレクターのGadi Hutt氏は述べた。市場は複数のベンダーにとって十分な大きさであるため、目標は顧客に低コストのオプションを提供することであるとハット氏は、AWS の re:Invent カンファレンスでのインタビューで Business Insider に語った。
「それはエヌビディアの座を奪うことではない」とハット氏は語った。 「重要なのは、顧客に選択肢を与えることです。」
ハット氏のコメントは、AWSが生成AIに数百億ドルを費やしていることを背景にしている。同社は今週、NvidiaのGPUよりもコストが約40％低いTrainium 2と呼ばれる最先端のAIチップと、そのチップを使用するProject Rainierと呼ばれる新しいスーパーコンピュータークラスターを発表した。 AWS の AI チップの以前のバージョンでは、さまざまな結果が得られました。
ハット氏は、これは競争ではなく、市場全体の規模を拡大するための共同の取り組みであると主張する。顧客プロファイルや対象とする AI ワークロードも異なります。近い将来、Nvidia の GPU が引き続き優位性を保つだろうと同氏は付け加えた。
インタビューの中で、ハット氏は、Project Rainer の最初の顧客となる Anthropic との AWS のパートナーシップなど、いくつかのトピックについて話しました。最近アマゾンがこのAIスタートアップに追加で40億ドルを投資するなど、両社は過去1年間緊密に連携してきた。
同氏はまた、CEO のパット・ゲルシンガー氏が退任したばかりのインテルと AWS の提携についての考えも語った。同氏は、インテルのサーバーチップに対する顧客の需要が依然として高いため、AWSは苦境にあるチップ大手と協力し続けると述べた。
AWSは昨年、AMDの新しいAIチップの販売を検討していると発表した。でもハット と新たな洞察を共有し、 顧客からの強い需要がまだ示されていないため、これらのチップは AWS ではまだ入手できません。
この Q&A は、明確さと長さのために編集されています。
Q: たくさんありました 見出し AmazonはNvidiaの新しいAIチップを獲得しようとしていると述べた。それについて話してもらえますか？
私はいつもこれらの見出しを見て、少し笑います。なぜなら、これは Nvidia の座を奪うことに関するものではないからです。 Nvidia は私たちにとって非常に重要なパートナーです。それは実際に顧客に選択肢を与えることです。
より多くのお客様がこれらのチップを使用できるように継続的に提供するために、私たちには多くの作業が待っています。そして、Nvidia はどこにも行きません。彼らは優れたソリューションと確固たるロードマップを持っています。 P6 インスタンス (Nvidia の最新 Blackwell GPU を搭載した AWS サーバー) を発表したばかりなので、Nvidia 製品ラインにも継続的に投資が行われています。それは実際に顧客に選択肢を与えることです。それ以上は何もありません。
Nvidia は AWS の優れたサプライヤーであり、当社の顧客は Nvidia を愛しています。私は、いかなる形でも、形でも、NVIDIA を軽視するつもりはありません。
Q: では、AWS での Nvidia のユースケースの増加を見たいと考えていますか?
それが自分たちが進むべき道だと顧客が信じているなら、彼らはそうするでしょう。もちろん、お客様にとって良いことであれば、それは私たちにとっても良いことです。
市場は非常に大きいため、複数のベンダーが参入する余地があります。私たちはこれらのチップの使用を誰かに強制しているわけではありませんが、高性能かつ低コストの主要テナントが確実に顧客に利益をもたらすよう、懸命に取り組んでいます。
Q: AWS が 2 位になっても大丈夫ということですか?
それは競争ではありません。機械学習の授賞式は毎年ありません。
Anthropic のような顧客の場合、コンピューティング インフラストラクチャが大規模であればあるほど、より多くのデータを使用して大規模なモデルを構築できるという明確な科学的証拠があります。そうすれば、精度とパフォーマンスが向上します。
数十万の Trainium 2 チップ (プロジェクト Rainier) まで容量を拡張できる当社の能力により、以前はできなかったことを革新する機会が得られます。生産性が 5 倍向上します。
Q：ナンバーワンであることは重要ですか？
市場は十分に大きいです。 2位は非常に良いポジションにいる。
ちなみに、私が2位とか1位だと言っているわけではありません。しかし、それは実際には私が考えていることではありません。私たちは機械学習全般、業界全般、そして特にチップに関してはまだ初期段階にあり、Anthropic、Apple、その他すべての企業のような顧客にサービスを提供しているところです。
Nvidia との競合分析も行っていません。 Nvidia に対してベンチマークを実行しているわけではありません。その必要はありません。
たとえば、次のようなものがあります。 ML パフォーマンス、業界のパフォーマンスのベンチマーク。 ML Perf に参加している企業には、社内に ML Perf 数値の向上のみを目的としたパフォーマンス エンジニアがいます。
それは私たちにとって完全に気を散らすものです。私たちは顧客中心ではないベンチマークに時間を浪費したくないため、これには参加しません。
Q: 表面的には、AWS での企業の成長を支援することは、AWS 自身の製品にとって必ずしも有益であるとは限りません。なぜなら、AWS と競合しているからです。
私たちは、Netflix が運営されている最高の場所である同じ会社です。そしてプライムビデオもあります。それは私たちの文化の一部です。
まだ GPU を使用している顧客がたくさんいると言えます。多くの顧客は GPU を気に入っており、すぐに Trainium に移行するつもりはありません。繰り返しになりますが、私たちは彼らに選択肢を与え、彼らが何をしたいかを決めるのですから、それは問題ありません。
Q: これらの AI ツールは将来的にさらにコモディティ化されると思いますか?
そう願っています。
2016 年にこれを開始したとき、問題は機械学習用のオペレーティング システムが存在しないことでした。そのため、私たちはこれらのチップを顧客のために可能な限りシームレスに機能させるために、これらのチップを利用するすべてのツールを発明する必要がありました。
機械学習がソフトウェア側とハードウェア側でコモディティ化すれば、それは誰にとっても良いことです。つまり、これらのソリューションの使用が簡単になります。しかし、機械学習を有意義に実行することは依然として芸術です。
Q: お客様が GPU と Trainium で実行したいと考えているさまざまな種類のワークロードにはどのようなものがありますか?
GPU はどちらかというと機械学習の汎用プロセッサです。世界中の研究者やデータ サイエンティストは全員、Nvidia の使い方をよく知っています。何か新しいことを発明した場合、それを GPU で実行すれば、うまくいきます。
特殊なチップ上で何か新しいものを発明する場合は、構築した内容をコンパイラ テクノロジが確実に理解するか、そのワークロード用に独自のコンピューティング カーネルを作成する必要があります。私たちは主に、お客様から「これが必要だ」と言われるユースケースに焦点を当てています。通常、私たちが獲得する顧客は、コストの増加を問題視しており、代替案を探している顧客です。
Q: では、最も高度なワークロードは通常、Nvidia チップ用に予約されているのでしょうか?
いつもの。データ サイエンス担当者が実験を継続的に実行する必要がある場合、おそらく GPU クラスター上でそれを行うでしょう。自分が何をしたいのかがわかっていれば、そこにはより多くの選択肢があります。低コストで高いパフォーマンスを提供する Trainium が真に輝くのはここです。
Q: AWS の CEO Matt Garman は以前、ワークロードの大部分は引き続き Nvidia 上で行われるだろうと述べました。
それは理にかなっています。私たちは、支出額が高く、コストをもう少しうまくコントロールできる方法を模索している顧客に価値を提供します。 Matt がワークロードの大部分と言っているとき、それは医療画像処理、音声認識、天気予報、その他あらゆる種類のワークロードを意味しますが、当社にはより大きな仕事を依頼する大規模な顧客がいるために、現在はあまり焦点を当てていません。したがって、その記述は 100% 正しいです。
一言で言えば、私たちは GPU にとって、そしてもちろん顧客が必要とするときに Trainium にとって最適な場所であり続けたいと考えています。
Q: Anthropic は AI 分野で AWS を支援するために何をしましたか?
彼らは自分たちが必要としているものについて非常に強い意見を持っており、私たちに戻ってきてこう言います。「将来のチップに機能 A を追加できますか?」それは対話です。彼らが思いついたいくつかのアイデアは、シリコン片に実装することすら不可能でした。私たちはいくつかのアイデアを実際に実装し、他のアイデアについてはより良いソリューションを提供しました。
彼らは基礎モデルの構築において非常に専門家であるため、これは、彼らが行う機能に本当に優れたチップを構築することに非常に役立ちます。
私たちはプロジェクト レーニアを一緒に発表したところです。これは、できるだけ早くたくさんのチップを使いたい人です。これはアイデアではなく、実際に構築しているところです。
Q: インテルについて話していただけますか? AWS の Graviton チップは、AWS データセンターの多くの Intel チップを置き換えています。
ここで訂正させていただきます。 Graviton は x86 を置き換えるものではありません。 x86 を削除して Graviton を配置するわけではありません。しかし、繰り返しになりますが、お客様の要望を受けて、最近の CPU の 50% 以上が Graviton でした。
これは、顧客の Graviton に対する需要が高まっていることを意味します。しかし、当社は依然として顧客向けに多くの x86 コアも販売しており、それを行うには当社が最適な場所であると考えています。私たちはこれらの企業と競合しているわけではありませんが、彼らを優れたサプライヤーとして扱っており、協力して取り組むべき多くのビジネスがあります。
Q: インテルの今後の重要性はどの程度ですか?
彼らは今後も AWS の優れたパートナーであり続けるでしょう。 Intel コアで非常にうまく動作するユースケースはたくさんあります。まだ導入中です。止めるつもりは無い。本当に顧客の要望に応えているんですね。
Q: AWS はまだ AMD の AI チップの販売を検討していますか?
AMD は AWS にとって素晴らしいパートナーです。弊社では、多数の AMD CPU をインスタンスとしてお客様に販売しています。
機械学習製品ラインは常に検討されています。顧客がそれが必要であると強く主張した場合、それを導入しない理由はありません。
Q: AMD の AI チップについてはまだそのようなことは見当たりませんか?
まだ。
Q: Amazon CEOのAndy Jassy氏とAWSのCEOであるMatt Garman氏はAIチップ事業に対してどの程度協力的ですか?
彼らはとても協力的です。私たちは定期的に彼らに会います。 ML ソリューションを必要とする顧客が確実にソリューションを入手できるように、社内のリーダーシップ全体に重点が置かれています。
社内では、これらのチップ上にソリューションを構築している科学チームやサービス チームとのコラボレーションも盛んに行われています。すべての Amazon 顧客が利用できる AI アシスタントである Rufus など、Amazon 内の他のチームは、完全に Inferentia および Trainium チップで実行されています。
アマゾンで働いていますか？ヒントはありますか？
暗号化メッセージング アプリ Signal または Telegram 経由で記者の Eugene Kim に連絡してください (+1-650-942-3061) または電子メール (ekim@businessinsider.com）。仕事以外のデバイスを使用して連絡します。 Business Insider をチェックしてください ソースガイド 情報を安全に共有するためのその他のヒントについては、こちらをご覧ください。
