月曜日、Amazon Web ServicesはTorchNeuronというツールを発表しました。このツールにより、AIスタートアップはAmazonのAIチップであるTrainium上に自らのAIアプリを簡単に導入できるようになります。これにより、Amazonはまた、NvidiaがAIアプリの標準的なハードウェア選択肢となることに貢献し、AIハードウェアプロバイダとしての地位を確立したソフトウェアの優位性にも直接対抗しています。
TorchNeuronは、開発者がAIモデルを構築、トレーニング、実行するために使用する無料のオープンソースツールキットであるPyTorchと連携して動作します。Amazonによると、PyTorchで作成されたAIアプリケーションをTrainium上で実行するには、設定コードを1行だけ変更するだけで済み、コードの書き換えは不要です。
Amazonによると、AIアプリケーションの約85％がPyTorchで作成されている。Facebookが最初に開発したが、2022年以降はオープンソースプロジェクトを管理するLinux Foundationの一部となっている。Nvidiaは、CUDAソフトウェア――Nvidia GPUやその他のハードウェア上でアプリケーションを実行できるソフトウェアインフラ――がPyTorchで作成されたAIアプリケーションをスムーズにサポートするように、長年努力してきた。その結果、Nvidiaのハードウェアはツールキットに深く組み込まれ、ほぼデフォルトで利用されるようになった。
TorchNeuronはPyTorchから改変されたものであるため、PyTorchを知っている開発者はすでにその使用方法を把握している。Amazonが簡単にチップをプラットフォームに導入しようとする最初の企業ではない。PyTorchユーザーは、シンプルな設定変更によって、自分のアプリをAMD GPUやAppleのチップにも移植することができる。
しかし、AmazonはTrainiumへの移行が単に簡単なだけでなく、AIスタートアップがAmazonの全クラウドを利用できるようになるとも主張しています。当然ながら、AWSはこれがneocloudsを利用するよりもスタートアップにとってより良い選択であると主張しています。neocloudsの多くはNvidiaやCoreweave、Nebius、Firmusのようなハードウェアに依存しています。
「あなたはAWSを利用しています。単一の目的向けコンピューティングプロバイダーに期待し、それ以外のすべてをそのプロバイダーを中心に構築しようとする必要はありません」と、AWS Annapurna Labs（アマゾンのカスタムチップを製造する部門）のテクノロジーソフトウェア担当VPであるコリン・ブレースはTechCrunchにメールで語った。「AWSでは、プロトタイプから生産までのインフラがすでに整っており、創業者が必要に応じて迅速に動き、規模を拡大することができます」と彼は続けた。
AWSは、同じチップがトレーニング（AIモデルの学習）と推論（ユーザーの質問に答えるなど、完成したモデルを実際に利用する）の両方を処理し、スタートアップが必要とするクラウドインフラと密接に統合されているため、AWSが最も安いトークン価格を提供しなくても、そのクラウドが彼らに費用を節約してくれると述べています。
「Trainiumの価値は、価格と性能のバランスに加えて、トレーニングと推論の両方を一つのプラットフォームで行える点です。これにより全体のワークロードにおける経済性が向上します」とブレイスは言った。「Deepgramを見てください――彼らは」 トレニウムに移動した ネイティブのPyTorchを使用し、生産レベルの精度で1ドルあたり70％多くの音声を処理できる。 ディープグラム AI音声アプリ提供会社であり、ElevenLabsの競争相手です。
しかし、AmazonはPyTorchアプリ開発者にクラウドへの移行の簡単な方法を提供するだけでは満足していません。
Amazonはまた、PyTorchをNvidiaに過度に依存しないように推進しており、その実装コードを主なPyTorchプロジェクトに提供すると述べています。新しいツールを発表するブログ記事で、同社は次のように書いています：
「Amazonのアプローチは自社のハードウェアにとどまりません。同社はPyTorch自体にも変更を上流で提供し、PyTorchコミュニティと協力して、フレームワークを特定のチップに結びつけるコードを削除しています。目標は、Trainiumユーザだけでなく、全開発者コミュニティにとってPyTorchをハードウェアに依存しないものにすることです。」
Nvidiaと競争するハードウェアやクラウドサービスを販売している人にとって、そのような戦略は間違いなく有効だが、PyTorchの目的の一つは、AIコードをハードウェア上で実行する際の厄介な問題をすべて隠すことである。Amazonが約束するように、Nvidiaをこれほど遠くに追いやることが、開発者により多くの選択肢と手頃なオプションをもたらすのか、それとも単に設定の面倒さを増すだけなのか、見守るしかない。
いずれにせよ、AmazonがPyTorchをNvidiaから深く分離することに成功した場合、GPU巨大企業に与える影響は、単にチップ製品の競争に対処するだけではないほど大きいかもしれません。Braceが言ったように、「本当の故事は、開発者が実際の選択肢を持てなかったという依存関係を取り除くことです。」