Reconvergence de contrôle implicite pour les architectures SIMT

Nicolas Brunie (1, 2, 3) , Caroline Collange (4)

1 LIP - Laboratoire de l'Informatique du Parallélisme
2 ARIC - Arithmetic and Computing
3 ARENAIRE - Arithmétique des ordinateurs
4 PACAP - Pushing Architecture and Compilation for Application Performance

Parallel architectures following the SIMT model such as GPUs benefit from application regularity by issuing concurrent threads running in lockstep on SIMD units. As threads take different paths across the control-flow graph, lockstep execution is partially lost, and must be regained whenever possible in order to maximize the occupancy of SIMD units. In this paper, we propose two techniques to handle SIMT control divergence and identify reconvergence points. The most advanced one operates in constant space and handles indirect jumps and recursion. We evaluate a hardware implementation which leverage the existing memory divergence management unit. In terms of performance, this solution is at least as efficient as state of the art techniques in use in current GPUs.

Les architectures parallèles qui obéissent au modèle SIMT telles que les GPU tirent parti de la régularité des applications en exécutant plusieurs threads concurrents sur des unités SIMD de manière synchrone. Lorsque les threads empruntent des chemins divergents dans le graphe de flot de contrôle, leur exécution est séquentialisée jusqu'au prochain point de convergence. La reconvergence doit être effectuée au plus tôt de manière à maximiser l'occupation des unités SIMD. Nous proposons dans cet article deux techniques permettant de traiter la divergence de contrôle en SIMT et d'identifier dynamiquement les points de reconvergence, dont une qui opère en espace constant et gère les sauts indirects et la récursivité. Nous évaluons une réalisation matérielle consistant à partager le matériel existant de l'unité de gestion de la divergence mémoire. En termes de performances, cette solution est au moins aussi efficace que les techniques de l'état de l'art employés par les GPU actuels.

Mots clés: Control flow reconvergence; SIMD; SIMT; GPU

Domaines: Architectures Matérielles [cs.AR]

Nicolas Brunie, Caroline Collange. Reconvergence de contrôle implicite pour les architectures SIMT. Revue des Sciences et Technologies de l'Information - Série TSI : Technique et Science Informatiques, 2013, Architecture des ordinateurs, 32 (2), pp.153-178. ⟨10.3166/TSI.32.153-178⟩. ⟨hal-00787749⟩