IT之家 10월 21일자 소식에 따르면, 구글은 현지 시간 화요일에 구글 TPU용 네이티브 PyTorch 프레임워크인 TorchTPU를 GitHub에서 오픈소스로 공개했다고 발표했다. 이를 통해 구글은 아마존과 함께 엔비디아의 인공지능 산업 내 독점을 깨뜨리려는 시도를 하고 있다. 현재 대부분의 인공지능 애플리케이션은 기본적으로 엔비디아 칩, 즉 그래픽 처리 장치(GPU)를 기반으로 개발 및 운영된다.
PyTorch는 인공지능 애플리케이션 개발자와 스타트업이 인공지능 모델을 구축, 훈련, 배포하는 데 의존하는 인기 오픈소스 도구 라이브러리입니다. 통계에 따르면 인공지능 애플리케이션의 85%가 PyTorch를 사용하고 있습니다. PyTorch는 처음에 Meta가 2016년에 개발했으며, 당시 사람들은 대규모 언어 모델이 세상을 바꿀 것이라는 사실을 전혀 인식하지 못하고 있었습니다. 그 당시 이미 엔비디아 GPU는 인공지능 연구의 표준 하드웨어였기 때문에 PyTorch의 많은 기능들은 엔비디아 GPU에 맞춰 특별히 설계되었습니다. 2022년 Meta는 PyTorch를 많은 중요한 오픈소스 프로젝트를 관리하는 비영리 단체인 Linux 재단에 이관했습니다.
구글이 출시한 TorchTPU는 인공지능 애플리케이션이 구글 자체 개발 인공지능 칩인 텐서 처리 장치(TPU)에서 실행될 수 있게 해줍니다. 또한 기존 PyTorch 애플리케이션을 TPU로, 나아가 구글 클라우드로 손쉽게 이전할 수 있습니다. 개발자는 설정을 간단히 수정하기만 하면 되며, 애플리케이션 코드를 다시 작성하지 않고도 이전을 완료할 수 있습니다.
아마존은 현지 시간 월요일에 유사한 소식을 발표하며 자체 PyTorch 버전인 TorchNeuron을 출시했습니다. TorchNeuron은 코드를 다시 작성할 필요 없이 인공지능 애플리케이션을 아마존 자체 개발 칩인 Trainium 및 아마존 클라우드(AWS)로 이식할 수 있습니다. 아마존은 또한 엔비디아의 PyTorch에 대한 장악력을 더욱 약화시킬 것이라고 밝혔습니다. 아마존은 PyTorch 메인 프로젝트에 코드를 제출하여 다양한 기능을 엔비디아 칩과 분리함으로써 PyTorch가 기본적으로 다양한 하드웨어와 호환되도록 만들고 있습니다.
다만 IT之家는 구글이 일부 측면에서 아마존보다 더 강력한 조치를 취했을 수 있다고 주목했습니다. 구글은 Meta, Hugging Face, 인퍼랙트(Inferact, vLLM 개발사), 라딕스아크(RadixArk, SGLang 개발사) 등 여러 파트너와 직접 협력하여 TorchTPU의 기능과 코드베이스가 원본 PyTorch와 마찬가지로 이러한 주요 인공지능 개발 도구들과 잘 호환되도록 보장한다고 밝혔습니다.
이 외에도 이 검색 대기업은 개발자가 애플리케이션을 구글 칩과 클라우드 플랫폼으로 이전하고, 이전 과정에서 오류를 찾아 수정하도록 돕는 전용 도구인 TPU 에이전트 키트를 출시했습니다. 구글은 또한 휴대폰, 노트북, 임베디드 기기에서 인공지능 모델을 실행하는 데 사용되는 널리 쓰이는 LiteRT 도구를 업그레이드하여, 업그레이드 후 PyTorch 기반으로 개발된 인공지능 애플리케이션을 더 잘 지원할 수 있게 되었습니다.
이러한 진전은 인공지능 애플리케이션 개발자들이 다른 칩과 클라우드 플랫폼으로 손쉽게 이전할 수 있다는 이유만으로 집단적으로 엔비디아 하드웨어를 포기하게 될 것을 의미하지는 않습니다. 하지만 아마존과 구글이 분명히 엔비디아의 우위를 종식시키기 위해 노력하고 있다는 것은 사실입니다.