Hébergez le modèle de code de Meta dans votre compte AWS
En bref
Selon AWS, Muse Spark Open de Meta, un modèle à poids ouverts orienté logiciel, est disponible dans Amazon SageMaker JumpStart. Meta le décrit comme un modèle de raisonnement de 816 milliards de paramètres au total et 42 milliards actifs par jeton, avec un contexte d'un million de jetons. AWS indique que vous pouvez le déployer dans votre compte, en BF16 ou en NVFP4 plus compacte.
Source : AWS Machine Learning Blog - « Meta’s Muse Spark Open now available in Amazon SageMaker JumpStart »
Ce que ça change pour une PME
Pour une PME déjà sur AWS et dotée d'une équipe de développement, c'est un moyen de tester un assistant de code qui, selon AWS, traite votre code source et vos demandes sur une infrastructure que vous contrôlez. Cela peut réduire le risque d'envoyer des dépôts privés vers un service public. Le coût et l'exploitation restent lourds : AWS indique que la variante NVFP4 tourne sur ml.p5e.48xlarge et la variante BF16 sur ml.p6-b300.48xlarge. Examinez la Muse Model License et la politique d'usage avant tout déploiement.
Ce que vous pouvez faire
- Vérifiez si votre compte AWS a accès à SageMaker et le quota pour les instances GPU indiquées par AWS.
- Lisez la Muse Model License et la Muse Spark Usage Policy avant tout déploiement.
- Si vous continuez, AWS conseille d'essayer d'abord la variante NVFP4 pour le coût, et de la tester sur une tâche de code interne réelle.
Parlons de vos gains de temps.
En 20 minutes, on identifie où l'IA peut vous faire gagner du temps ou de l'argent. Offert, sans engagement.