IT之家 10月24日の報道によると、アマゾンのCEOであるアンディ・ジャシーは、AIの推論コストが依然として高すぎると考えています。AIを企業ソフトウェアに広く活用するためには、コストを現在の約10分の1まで下げる必要があるとし、アマゾンが自社で開発したチップがコスト削減に役立つと期待されています。
ジャシーは、リスク投資機関a16zが現地時間23日に行ったインタビューで次のように述べました。「私の見解では、AIを可能な限り広範囲に利用するためには、推論コストが依然として1桁上に高いままだ」と。
アマゾンは今年、2,200億ドル（IT之家注：現為替レートで約1.47兆元）の資本投資を行う予定ですが、それでもAIの需要を満たす十分なインフラを構築することはできません。ジャシーによると、2026年の主要な計算能力供給枠はほぼ埋まっており、2027年も大部分が顧客によって予約されています。2028年もかなりの部分が売り切れているとのことです。彼の見解では、市場の需要がこれほど強いので、アマゾンがさらに多くの資金を投じても無駄にはならないと言っています。
ジャシはAIの需要を「バンジー棒」に例えています。一方の端にはAIラボがあり、消費される計算能力は「かつてないほど大きい」です。もう一方の端には企業顧客がおり、彼らはAIをカスタマーサービスや詐欺検出などの具体的な業務に利用しています。
実際にまだ十分に開発されていないのは、企業が日常的に利用する様々なソフトウェアである。これらのソフトウェアはまだAIに広く導入されていないが、ジャシーは、将来の最大のAI需要はこの分野から生じる可能性があると考えている。
企業がAIを導入する主な制約は、推論コストです。AIモデルが一つの質問に答えたり、一つのタスクを完了したりするたびに、計算能力が消費されます。もしAIの導入による利益が、より高い運営費用を相殺できない場合、企業は既存のソフトウェアを再構築する動機がほとんどありません。
ジャーシは、アマゾンの何年も前の経験と比較した。当時、インテルがクラウドサーバーのプロセッサ市場を主導していた。アマゾンは同じコストでより高い計算性能を得たいと考えていたが、インテルにこの要求を優先してもらうことは難しかったため、最終的にGravitonプロセッサを自ら開発することを決定した。彼にとって、「同じ話が再びAIの分野で起こっている」のだ。
AIチップ市場は現在、NVIDIAが主導的な地位を占めています。一方、Amazonは自社開発のTrainiumチップを発表し、より低コストの選択肢を顧客に提供したいと考えています。ジャシーはインタビューでNVIDIAについて直接言及することはなく、市場の主導的なサプライヤーは依然としてAmazonの重要なパートナーであると強調しました。
報道によると、Trainiumのコストパフォーマンスは同類のプロセッサよりも約30％から40％高いという。顧客は同じお金を使ってもより多くの計算能力を得ることができる。「私たちのチップ事業は、推論コストを削減することに重要な役割を果たしている」と述べられている。
アマゾンは以前、Trainiumが2,250億ドル以上（現為替レートで約1.5兆人民元）の将来の収入契約を獲得したと発表しました。これにはAnthropicおよびOpenAIとの協定も含まれています。