Code PyTorch écrit pour Nvidia : ce qu’Amazon et Google font tourner sur leurs puces

TorchNeuron (Amazon) et TorchTPU (Google), publiés en open source le 20 octobre 2026, exécutent sur Trainium et sur TPU du code PyTorch écrit pour les GPU Nvidia en changeant le périphérique visé. Les noyaux CUDA et Triton écrits à la main ne sont pas pris en charge : NKI chez Amazon, Pallas et Tokamax chez Google, Helion encore expérimental. TorchNeuron est en bêta publique, exige PyTorch 2.14.0 et n’accepte pas les formes dynamiques. Chez Deepgram, les 11 à 70 % d’audio traité en plus par dollar ont demandé plusieurs mois de réécriture de noyaux ; les trois chiffres qui circulent viennent tous d’AWS ou de Deepgram. Aucune mesure indépendante n’est disponible. AMD et Intel prévoient de réunir leurs optimisations x86 dans oneDNN, sans calendrier.