Calcul Canada
Cette page wiki n'est pas complète, n'hésitez pas à y ajouter des informations.
Site de Calcul Canada
Wiki général - informations techniques
Inscription
- Suivre les instructions. C'est un peu lourd, mais on n'a qu'à le faire une fois, et ensuite on oublie. SVP si vous vous inscrivez, n'hésitez pas à compléter cette section.
- En s'inscrivant sur Calcul Canada, on a accès aux grappes de Calcul Québec:
- Cedar, Graham et Béluga d'usage général
- Niagara, pour les tâches parallèles intensives
- Hélios, avec GPU
Utilisation
- Il y a régulièrement des séances d'information pour les débutants. Liste des formations Calcul Québec L'inscription se fait via la plateforme eventbrite.
- Pour se loguer (en supposant que votre nom d'usager soit “votrenom”): ssh votrenom@beluga.calculquebec.ca
Gestion des fichiers
Vidéo: Pipelines et gestion des données (1h) indique notamment dans quels répertoires mettre quels fichiers afin que les tests roulent plus vite. Notamment:
- scratch a un espace limité, doit être purgé à chaque mois. Un courriel est envoyé lorsqu'une purge est en vue. Utiliser seulement pour les fichiers temporaires.
- projet: données permanentes. Ne doit pas contenir de fichiers temporaires; pas de milliers de fichiers.
- nearline: pour stocker des données. Ne pas mettre de données actives. Ne pas mettre plein de petits fichiers; zipper au besoin. Peut être considéré comme un “entrepôt” pour quelques mois, par exemple lorsqu'un étudiant s'en va.
- home: pour les sources; aussi les sauvegarder dans git.
- SLURM_TMPDIR (variable d'environnement) peut être utilisé pour des lectures répétitives, moins long que sur scratch.
Par exemple, pour rouler un problème qui a beaucoup de petits fichiers, l'idéal est d'avoir tous les fichiers zippés, les dézipper dans SLURM_TMPDIR, rouler le problème, tout rezipper et les mettre dans scratch. Attention: Si on les laisse dans SLURM_TMPDIR, ils seront perdus!