Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

# Algorithmes, cadres et instances pris en charge pour les points de terminaison multimodèles
<a name="multi-model-support"></a>

Pour en savoir plus sur les algorithmes, les cadres et les types d’instances que vous pouvez utiliser avec des points de terminaison multimodèles, consultez les sections suivantes.

## Algorithmes, cadres et instances pris en charge pour les points de terminaison multimodèles utilisant des instances basées sur des processeurs
<a name="multi-model-support-cpu"></a>

Les conteneurs d'inférence pour les algorithmes et cadres suivants prennent en charge les points de terminaison multimodèles :
+ [Algorithme XGBoost avec Amazon AI SageMaker](xgboost.md)
+ [K-Nearest Algorithme des voisins (K-nn)](k-nearest-neighbors.md)
+ [Algorithme d'apprentissage linéaire](linear-learner.md)
+ [Algorithme RCF (Random Cut Forest)](randomcutforest.md)
+ [Ressources à utiliser TensorFlow avec Amazon SageMaker AI](tf.md)
+ [Ressources à utiliser Scikit-learn avec Amazon SageMaker AI](sklearn.md)
+ [Ressources relatives à l'utilisation d'Apache MXNet avec Amazon AI SageMaker](mxnet.md)
+ [Ressources à utiliser PyTorch avec Amazon SageMaker AI](pytorch.md)

Pour utiliser tout autre framework ou algorithme, utilisez la boîte à outils d'inférence SageMaker AI pour créer un conteneur prenant en charge les points de terminaison multimodèles. Pour plus d'informations, consultez [Créez votre propre conteneur pour les Multi-Model terminaux d' SageMaker IA](build-multi-model-build-container.md).

Multi-model les points de terminaison prennent en charge tous les types d'instances de processeur.

## Algorithmes, cadres et instances pris en charge pour les points de terminaison multimodèles utilisant des instances basées sur des GPU
<a name="multi-model-support-gpu"></a>

L'hébergement de plusieurs modèles soutenus par GPU sur des terminaux multimodèles est pris en charge via le serveur [ SageMaker AI Triton Inference. ](https://docs.aws.amazon.com/sagemaker/latest/dg/triton.html) Cela prend en charge tous les principaux frameworks d'inférence tels que NVIDIA® TensorRT™, MXNet, Python PyTorch, ONNX, XGBoost, scikit-learn, OpenVINO, le C\+\+ personnalisé, etc. RandomForest

Pour utiliser un autre cadre ou algorithme, vous pouvez utiliser le backend Triton pour Python ou C\+\+ pour écrire la logique de votre modèle et utiliser n'importe quel modèle personnalisé. Une fois le serveur prêt, vous pouvez commencer à déployer des centaines de modèles de deep learning sur un seul point de terminaison.

Multi-model les terminaux prennent en charge les types d'instances GPU suivants :


| Famille d’instances | Type d’instance | vCPU | GiO de mémoire par vCPU | Processeurs graphiques | Mémoire GPU | 
| --- | --- | --- | --- | --- | --- | 
| p2 | ml.p2.xlarge | 4 | 15,25 | 1 | 12 | 
| p3 | ml.p3.2xlarge | 8 | 7,62 | 1 | 16 | 
| g5 | ml.g5.xlarge | 4 | 4 | 1 | 24 | 
| g5 | ml.g5.2xlarge | 8 | 4 | 1 | 24 | 
| g5 | ml.g5.4xlarge | 16 | 4 | 1 | 24 | 
| g5 | ml.g5.8xlarge | 32 | 4 | 1 | 24 | 
| g5 | ml.g5.16xlarge | 64 | 4 | 1 | 24 | 
| g4dn | ml.g4dn.xlarge | 4 | 4 | 1 | 16 | 
| g4dn | ml.g4dn.2xlarge | 8 | 4 | 1 | 16 | 
| g4dn | ml.g4dn.4xlarge | 16 | 4 | 1 | 16 | 
| g4dn | ml.g4dn.8xlarge | 32 | 4 | 1 | 16 | 
| g4dn | ml.g4dn.16xlarge | 64 | 4 | 1 | 16 |