火曜日、Googleは 発表しました 。長らく待望されていたPyTorchのバージョンであるTorchTPUが、オープンソースプロジェクトとして利用可能になったと。これにより、GoogleはAmazonとともに、 NvidiaのAI業界における支配を打破しよう としています。この業界では、ほとんどのAIアプリがデフォルトでNvidiaのチップ、すなわちGPU上で動作するように書かれています。
PyTorchは、AIアプリ開発者やスタートアップがAIモデルを構築、訓練、実行するために使う人気のオープンソースツールキットです。ある調査によれば、AIアプリの85%で使われています。PyTorchは2016年にMeta(当時はFacebook)によって開発されましたが、それはLLMが世界を変えることがまだ予想されていなかった時代のことでした。当時、NvidiaのGPUはすでにAI研究の標準ハードウェアだったため、PyTorchの多くの機能はNvidiaのGPUと特化して連携するように作られました。2022年、MetaはPyTorchを、多くの重要なオープンソースプロジェクトを管理する非営利団体であるLinux Foundationに移管しました。
GoogleのバージョンであるTorchTPUにより、AIアプリはGoogleのAIチップ「Tensor Processing Unit(TPU)」上で動作できるようになります。また、既存のPyTorchアプリをTPUへ、ひいてはGoogle Cloudへ簡単に移行できます。開発者は簡単な設定変更だけでこれを行え、アプリの書き直しは不要です。
Amazonも月曜日に 同様の発表を行い 、TorchNeuronという独自バージョンのPyTorchをリリースしました。TorchNeuronは、AIアプリをAmazon自社開発のAIチップTrainiumへ、そしてAWSへ、書き直しを一切せずに移植できます。Amazonはさらに、NvidiaのPyTorchへの影響力を緩める取り組みをさらに進めるとも述べています。同社は、様々な機能をNvidiaのチップから切り離し、デフォルトであらゆるハードウェアに対応しやすくするコードをメインのPyTorchプロジェクトに提出しています。
ただし、Googleはいくつかの点でAmazonを上回っている可能性があります。Googleは、Meta、Hugging Face、vLLMの開発元Inferact、SGLangの開発元RadixArkなどと直接協力し、TorchTPUの機能やコードライブラリが、オリジナルのPyTorchと同様にこれらの人気AI開発ツールとうまく連携することを確認したと述べています。
さらにこの検索大手は、開発者がアプリをGoogleのチップとクラウドへ移行し、その過程でエラーを修正できるよう支援する専用ツール「 TPU agent suite」を立ち上げました。さらに、携帯電話、ノートパソコン、組み込みデバイス上でAIを実行する人気ツールLiteRTも更新し、PyTorchのAIアプリとの連携を改善しました。
これらの取り組みによって、AIアプリ開発者が自動的にこぞってNvidiaのハードウェアを見捨てるとは限りません。しかし、AmazonとGoogleは明らかに、Nvidiaの優位性を終わらせるために動いています。