화요일, 구글은 발표했습니다 TorchTPU라는 이름의 오랫동안 기다려온 PyTorch 버전이 이제 오픈 소스 프로젝트로 공개되었다고 발표했습니다. 이를 통해 구글은 아마존에 합류하여 엔비디아의 AI 산업에 대한 강력한 장악 을 깨뜨리려 하고 있습니다. AI 산업에서는 대부분의 AI 앱이 기본적으로 엔비디아의 칩, 즉 GPU에서 실행되도록 작성됩니다.
PyTorch는 AI 앱 개발자와 스타트업이 AI 모델을 구축, 학습, 실행하는 데 사용하는 인기 있는 오픈 소스 툴킷입니다. 일부 집계에 따르면 AI 앱의 85%가 이를 사용하고 있습니다. PyTorch는 2016년 Meta(당시 Facebook)가 개발했으며, 이는 LLM이 세상을 바꿀 것이라는 사실이 알려지기 훨씬 전의 일이었습니다. 당시 엔비디아의 GPU는 이미 AI 연구의 표준 하드웨어였기 때문에 PyTorch의 많은 기능들은 이들과 함께 작동하도록 특별히 만들어졌습니다. 2022년 Meta는 PyTorch를 많은 중요한 오픈 소스 프로젝트를 관리하는 비영리 단체인 리눅스 재단에 넘겼습니다.
구글의 버전인 TorchTPU는 AI 앱이 Tensor Processing Units(TPUs)라고 불리는 구글의 AI 칩에서 실행될 수 있게 해줍니다. 또한 기존 PyTorch 앱을 TPU로, 나아가 Google Cloud로 쉽게 옮길 수 있게 해줍니다. 개발자들은 간단한 구성 변경만으로 앱을 재작성하지 않고도 이를 수행할 수 있습니다.
아마존은 월요일에 유사한 발표를 했는데, 자체 버전의 PyTorch인 TorchNeuron을 출시했습니다. TorchNeuron은 AI 앱을 아마존의 자체 개발 AI 칩인 Trainium과 AWS로 재작성 없이 이식할 수 있게 해줍니다. 아마존은 또한 PyTorch에 대한 엔비디아의 영향력을 약화시키려는 노력에서 한 걸음 더 나아간다고 밝혔습니다. 아마존은 다양한 기능을 엔비디아 칩에서 분리하여 기본적으로 모든 하드웨어에 더 개방적이 되도록 하는 코드를 메인 PyTorch 프로젝트에 제출하고 있습니다.
다만 구글이 몇 가지 측면에서 아마존을 앞서고 있을 수 있습니다. 구글은 Meta, Hugging Face, Inferact(vLLM 제작사), RadixArk(SGLang 제작사) 등과 직접 협력하여 TorchTPU의 기능과 코드 라이브러리가 원조 PyTorch와 마찬가지로 이러한 인기 있는 AI 개발 도구와 잘 작동하도록 보장했다고 말합니다.
게다가 이 검색 대기업은 개발자들이 자신들의 앱을 구글의 칩과 클라우드로 옮기고 그 과정에서 오류를 수정하는 데 도움을 주는 전용 도구인 TPU agent suite를 출시했습니다. 또한 휴대폰, 노트북, 임베디드 기기에서 AI를 실행하는 인기 도구 LiteRT를 PyTorch AI 앱과 더 잘 작동하도록 업데이트했습니다.
이 모든 것이 AI 앱 개발자들이 이제 대체 칩과 클라우드로 쉽게 이동할 수 있게 되었다는 이유만으로 자동으로 엔비디아의 하드웨어를 대거 떠날 것이라는 의미는 아닙니다. 하지만 아마존과 구글이 분명히 엔비디아의 우위를 끝내기 위해 노력하고 있다는 것은 명백합니다.