Un GPU (Graphics Processing Unit) est un processeur conçu pour effectuer de nombreux calculs simultanément. Initialement développé pour le rendu graphique et le gaming, le GPU est devenu indispensable pour l'IA et le deep learning.
Les GPU NVIDIA (GeForce, Quadro, Tesla, H100) dominent le marché de l'IA grâce à l'écosystème CUDA. AMD (Radeon, Instinct) et Intel (Arc) sont des alternatives croissantes.
L'entraînement d'un LLM nécessite des milliers de GPU fonctionnant en parallèle pendant des semaines, ce qui explique le coût et la rareté des GPU datacenter.