Tout d’abord, nous avions le CPU et le GPU. Puis est arrivée l’Unité de Traitement Accéléré d’AMD (APU, si vous êtes pointilleux). Et avec l’avènement des PC IA et des smartphones, nous avons accueilli le NPU (Unité de Traitement Neuronal). Mais désormais, grâce à Google, nous obtenons encore une autre puce : le TPU. Déployé en interne par Google pour la première fois en 2015, le TPU, ou Tensor Processing Unit, est l’accélérateur IA propriétaire de l’entreprise conçu pour gérer tous les calculs mathématiques complexes nécessaires aux charges de travail d’intelligence artificielle et d’apprentissage automatique (ML). Conçu pour des applications basées sur le cloud, le TPU est principalement utilisé dans les centres de données. Cependant, ce terme est récemment apparu dans le nouveau smartphone Pixel 11 via sa puce Google Tensor G6, que l’entreprise affirme offrir « 50 pour cent de calcul TPU en plus ».
Alors, quelle est la bonne réponse ? La réponse est curieusement les deux. Dans les smartphones de la série Pixel 11, le TPU est essentiellement la manière élégante de Google de dire NPU. Cette version d’un TPU gère le traitement de l’appareil photo et des images, ainsi que les tâches d’IA locales. Mais le TPU des centres de données est nettement différent d’une version pour smartphone, d’un NPU traditionnel et d’un GPU, bien qu’il existe quelques similitudes. Afin de vous aider à clarifier votre vocabulaire sur les puces, nous sommes ici pour vous présenter officiellement le vrai TPU et dissiper certaines idées reçues.
Qu’est-ce qu’un TPU ?
Bonne question. Un TPU est une puce créée par Google pour traiter les tâches d’IA et d’apprentissage automatique basées sur le cloud dans les centres de données de l’entreprise. Connue comme un accélérateur IA, une TPU est optimisée pour effectuer des millions de calculs mathématiques à la volée dans les modèles d’IA, ce que font aussi les NPU et les GPU.
Nous avons beaucoup parlé d’IA et d’apprentissage automatique, ce qui pour nombre d’entre nous fera appel à une NPU. Comme il se doit, car on nous en a braqué les regards jusqu’à l’obsession grâce à Apple, aux différents fabricants de PC et de smartphones et aux fabricants de puces. Si vous ne connaissez pas, les NPU sont les puces que vous trouverez dans tous vos smartphones modernes, Macs et PC. Elles gèrent tout le travail lourd pour vos tâches d’IA génératives et agentives, que ce soit effacer un ex dans une photo ou utiliser ChatGPT pour élaborer un itinéraire de voyage de trois jours. Pour les téléphones Pixel 11, le TPU remplace la NPU, Google affirmant « jusqu’à 3,5 fois plus rapide le traitement IA tout en consommant jusqu’à 3,5 fois moins d’énergie ».
Les GPU sont familiers à beaucoup d’entre nous, surtout si vous êtes joueur ou que vous travaillez avec des modèles 3D. Avant l’IA, nous voulions un GPU puissant pour faire tourner des jeux graphiquement exigeants comme Crysis 3 aux réglages les plus élevés avec des taux de frames et un rendu d’une fluidité exemplaire. Après l’IA, les GPU font toujours cela, en plus d’assurer l’entraînement IA et le minage de cryptomonnaies, d’où le fait que les meilleurs coûtent une fortune. C’est un couteau suisse: un GPU peut faire beaucoup de choses bien selon sa puissance.
Alors, quelle est la différence entre TPU, NPU et GPU ?
Les éléments qui différencient principalement ces puces reposent sur les cas d’utilisation et l’échelle. Alors que les TPU sont utilisés pour l’IA basée sur le cloud dans les centres de données de Google, les NPU, les TPU sur appareil et les GPU se retrouvent dans vos smartphones et ordinateurs portables.
Les TPU possèdent l’échelle la plus vaste de loin. Grâce à leur architecture spécialisée, un TPU est employé pour accélérer des calculs massifs utilisés dans les modèles linguistiques volumineux (LLM) et les tâches d’apprentissage en profondeur (DL) à grande échelle. Les TPU utilisent une disposition matérielle appelée réseau systolique qui permet aux données de passer d’une unité à l’autre dans une grille 2D de multiplicateurs, ce qui aide à éliminer les goulets d’étranglement potentiels. Cela signifie que la sortie du calcul devient l’entrée pour l’unité suivante sans avoir à écrire dans la mémoire, contrairement aux GPU, qui jonglent avec les données entre leurs unités de calcul et leur mémoire à haut débit.
En desservant de grandes entreprises d’IA telles qu’Anthropic et Midjourney, qui traitent des milliards de requêtes IA quotidiennement, s’appuyer sur une solution basée sur GPU peut s’avérer coûteux en termes de goulots d’étranglement, de latence et d’efficacité énergétique. Puisqu’un TPU ne fait pas d’aller-retour constant pour lire et écrire la mémoire, il est mieux adapté à l’entraînement de réseaux neuronaux à grande échelle et à d’autres charges massives.
Vivant dans nos smartphones, nos objets connectés et nos ordinateurs portables, les NPU et les TPU sur appareil de Google restent à l’extrémité inférieure du spectre IA/ML. Ils sont optimisés pour des tâches à faible consommation d’énergie, ce qui les rend parfaits pour des choses comme les effets de caméra et les traductions en temps réel. Un TPU peut faire tourner un LLM, mais il doit s’agir d’un petit et vraiment bien défini modèle local.
Lequel est le meilleur ?
« Mieux » est relatif. Chaque accélérateur IA est optimal dans un cas d’utilisation spécifique. Les NPU et les TPU sur appareil sont meilleurs pour gérer les petites tâches IA grand public. Leur faible consommation d’énergie signifie qu’ils n’imposent pas une charge excessive sur votre smartphone, votre ordinateur portable ou votre montre connectée. Cependant, ils disposent d’une puissance suffisante pour assurer une traduction en temps réel, flouter votre arrière-plan lors d’un appel ou vous aider à vous rappeler cette série obscure que vous jurez avoir vue dans les années 90.
Les TPU constituent la solution économique en termes de coût et d’énergie qui aide à faire tourner l’IA/ML/DL à l’échelle mondiale. Le traitement de millions de calculs mathématiques tout en entraînant des modèles ML et DL à grande échelle signifie que les TPU sont destinés principalement aux grands centres de données. Avec leur flexibilité inhérente, les GPU peuvent prendre en charge à la fois des charges IA petites et grandes, ainsi que faire tourner des jeux, monter des vidéos et réaliser des simulations. Si vous souhaitez faire tourner des LLM locaux, un GPU puissant est la voie à suivre.
