Un supercalculateur GPU est un groupe d'ordinateurs en réseau doté de plusieurs unités de traitement graphique fonctionnant comme des GPU polyvalents (GPGPU) en tandem sur une seule tâche. Les supercalculateurs GPU permettent de traiter des tâches plus rapides car ils sont intrinsèquement parallèles. Les cartes graphiques peuvent être utilisées pour effectuer des calculs parallèles à un rythme qui éclipse même les CPU les plus rapides. Un CPU peut avoir jusqu'à 12 cœurs. Cependant, un GPU peut être équipé de milliers de cœurs de shaders. Ces mêmes cœurs de shaders qui permettent le rendu simultané de plusieurs pixels peuvent également traiter plusieurs flux de données en même temps. Il peut être possible de traiter des charges de travail importantes en recodant les tâches pour le calcul par le GPU. L'hétérogénéité CPU/GPGPU a constitué un développement important dans le domaine du calcul haute performance (HPC). La combinaison du CPU et du GPU permet aux supercalculateurs GPU d'être plus efficaces en utilisant pleinement les ressources, ce qui augmente à la fois les performances et l'efficacité énergétique.
Jaguar, un ancien supercalculateur basé sur le CPU, a été transformé en Titan avec des GPU Nvidia. Titan est un supercalculateur à GPU. Ses performances sont passées de 17,59 pétaFLOPS à 27 pétaFLOPS. Nommé d'après le supercalculateur, le GPU Nvidia GTX Titan disponible dans le commerce est appelé. Jetez un coup d'œil à l'intérieur du supercalculateur Titan.