Googleが「TorchTPU」を発表、PyTorchをTPUとGoogle Cloud上で実行するためのツールでコード書き換えなしで実行可能

Python向けのオープンソースの機械学習ライブラリ「PyTorch」をGoogleの製品で動作させるためのツール「TorchTPU」が発表されました。

TorchTPU is now open source: Run native PyTorch on TPUs | Google Cloud Blog
https://cloud.google.com/blog/topics/ai-infrastructure/torchtpu-is-now-open-source-run-native-pytorch-on-tpus?hl=en

Introducing TorchTPU: Native PyTorch on Google Cloud TPUs - YouTube

Introducing TorchTPU - PyTorch
https://pytorch.org/blog/introducing-torchtpu/

Google has joined Amazon in attacking Nvidia's stronghold with AI app developers | TechCrunch
https://techcrunch.com/2026/10/20/google-has-joined-amazon-in-attacking-nvidias-stronghold-with-ai-app-developers/

TorchTPUはGoogleが開発するAI向けプロセッサ「TPU」向けのネイティブPyTorchスタックです。GitHubでオープンソースとして公開されていて、PyTorch向けに作られたAIアプリなどをTPU上で実行できるようにしています。

また、GoogleはHugging Faceと提携し、Hugging Faceで公開されている人気のオープンウェイトモデルをTorchTPU上でネイティブに実行できるようにもしています。

Googleは「PyTorchチームと共同開発したTorchTPUを使用すると、使い慣れたAPIを利用し、コードを最小限変更するだけで既存のPyTorchワークロードをTPU上で実行できます」とアピール。「推論能力やエージェント機能を備えたモデルが大規模化するにつれ、推論コストとレイテンシーが本番環境における主要なボトルネックになっています。そこで、TorchTPUを広く利用されているオープンソースのサービングエンジンに統合し、TPUとGPUを横断するKubernetesネイティブのFleet Routingと組み合わせることで、1ドルあたりのスループットを最適化できるようにしました」と補足しました。

こうしたツールの開発は、NVIDIAの牙城を崩すものだと指摘されています。記事作成時点でほとんどのAIアプリがデフォルトでNVIDIAのGPU上で動作するように設計されていますが、これを自社のプロセッサで動作させられれば、顧客を引き入れることができます。

テクノロジー系メディアのTechCrunchによると、AIアプリの85％がPyTorchを使用しているという試算があるとのこと。既存のPyTorchアプリをTPU、ひいてはGoogle Cloudへ簡単に移行できるTorchTPUがあることで、GoogleはNVIDIAに対抗できるようになります。

Amazonも、PyTorchの独自バージョンであるTorchNeuronをリリースし、同様の発表を行っています。TorchNeuronを使用すると、AIアプリをAmazon独自のAIチップであるTrainiumやAWSに書き換えなしで移植できます。

Amazon's TorchNeuron runs PyTorch on AWS Trainium chips
https://www.aboutamazon.com/news/innovation-at-amazon/torchneuron-pytorch-aws-trainium-chips-ai