View a markdown version of this page

Configuration de la collecte de métriques Ray - Amazon SageMaker AI

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Configuration de la collecte de métriques Ray

Pour collecter des métriques Ray, installez ou mettez à jour le module complémentaire SageMaker HyperPod Observability et activez Ray Metrics. Le module complémentaire déploie un collecteur avec une configuration de scrape pour les modules Ray head, les modules de travail et l' KubeRay opérateur, de sorte que vous ne devez pas créer manuellement la configuration de scrape par cluster. Les métriques arrivent dans Amazon Managed Service pour Prometheus et sont visualisées dans Amazon Managed Grafana.

Conditions préalables

  • L' KubeRay opérateur installé sur votre HyperPod cluster. Pour de plus amples informations, veuillez consulter Installation KubeRay sur HyperPod Amazon EKS.

  • Le module complémentaire Observability sur la version 1.0.6 ou ultérieure. Les versions précédentes s'exécutent, mais les métriques Ray n'apparaissent pas.

Activez Ray Metrics

Note

Les métriques Ray sont activées par défaut pour tout HyperPod cluster nouvellement créé, avec configuration rapide ou configuration personnalisée dans la console. Suivez les étapes suivantes pour un cluster créé d'une autre manière ou pour un cluster où les métriques Ray sont désactivées.

Pour activer Ray Metrics
  1. Ouvrez le HyperPod cluster dans la console, puis accédez à la configuration du module complémentaire Observability dans l'onglet Add-ons ou Tableau de bord.

  2. Installez le module complémentaire ou mettez-le à jour s'il est déjà installé.

  3. Vérifiez que la case Ray metrics est cochée. Il est sélectionné par défaut.

  4. Enregistrez la configuration.

Important

Si le module complémentaire Observability est déjà installé, mettez-le à niveau vers la version 1.0.6 ou ultérieure, puis mettez à niveau les tableaux de bord Grafana depuis la console AI. SageMaker Les nouvelles métriques Ray et les nouveaux panneaux de tableau de bord n'apparaissent pas tant que le module complémentaire et les tableaux de bord ne sont pas mis à niveau.

Pour mettre à niveau les tableaux de bord, ouvrez votre cluster dans la console SageMaker AI, choisissez l'onglet Tableau de bord, puis, dans la section HyperPod Observabilité, choisissez Actions, puis Mettre à niveau les tableaux de bord. Confirmez la mise à niveau dans la boîte de dialogue. La mise à niveau remplace les tableaux de bord Ray Core, Ray Data, Ray Train et Ray Serve. Copiez donc d'abord toutes les personnalisations.

La boîte de dialogue Mettre à niveau les tableaux de bord de la console SageMaker AI répertorie les tableaux de bord Ray Core, Ray Data, Ray Train et Ray Serve à mettre à niveau.

Pour la configuration générale du module complémentaire et les étapes de la console, consultez Observabilité etObservabilité pour le SageMaker HyperPod cluster Amazon orchestré par Amazon EKS.

Vérification

Vérifiez que le module complémentaire indique que les pods Ray sont des cibles de scrape, puis ouvrez Grafana et vérifiez qu'un tableau de bord Ray affiche les données d'un cluster en cours d'exécution. Si un tableau de bord est vide, vérifiez d'abord que le module complémentaire est sur la version 1.0.6 ou ultérieure.