11.4.3.1 : Introduction
Figure 45 : Différents niveaux de parallélisme.
La figure 45 illustre quelques formes de parallélisme couramment utilisées. Comme on peut le voir, il existe une hiérarchie du parallélisme, ce dernier étant présent à plusieurs échelles allant du cœur de calcul individuel au nœud complet.
Si certaines notions sont universelles, comme le souci de passer à l'échelle et de minimiser les communications par exemple, il existe aussi des aspects du matériel et du modèle de programmation qui changent selon l'échelle où on travaille. Nous allons maintenant étudier ces spécificités.