Bonjour,
J'ai démarré plusieurs notebooks avec la configuration suivante :
> ovhai notebook run huggingface jupyterlab <br />> --name Komunitron <br />> --framework-version hf4.34.0-py311-cuda11.8 <br />> --flavor a100-1-gpu <br />> --gpu 2 <br />> --volume Ishtar@GRA/:/workspace/ishtar:RWD
la tâche principale était de charger et tester un LLM (mixtralai8x7b)
Lors d'arrêt de de ces 3 notebooks : apparaît "Echec de synchronisation" sur le dashboard AI.
J'ai essayé de me reconnecter aux notebooks via la CLI mais ça n'a pas fonctionné. j'ai également synchronisé les volumes de stockages sans succès.
Quelqu'un a t-il une idée ?
Bonne journée
Bonjour @JacobA2,
Si le dysfonctionnement est toujours d'actualité, je vous invite à partager les différents tests effectués depuis la création de votre post, afin que la communauté puisse vous faire un retour,
^FabL
Pour éviter cette erreur :
-Il faut faire un AI training pour télécharger le modèle dans le conteneur objet souhaité
-Ensuite charger le modèle dans le modèle dans le AI notebook
Je pense que télécharger le modèle (>90Go dans mon cas) directement dans le AI notebook est la source d'erreur de synchronisation lors de la fermeture du notebook.
Ce sujet a été automatiquement fermé après 30 jours. Aucune réponse n'est permise dorénavant.