Nvidia lance des modèles ouverts pour agents internes et PC
En bref
Selon Nvidia, la société a lancé des modèles à poids ouverts pour les agents IA. Le Nemotron 3.5 Super VL, 120 milliards de paramètres, vise l'entreprise, tandis que deux modèles Bolt plus légers doivent tourner en local sur de nouveaux PC et stations Nvidia vendus notamment par Microsoft et Dell. Super VL et le plus grand Bolt sont disponibles maintenant, le plus petit plus tard ce mois, selon Nvidia.
Source : TechCrunch - AI - « Nvidia launches new open models to run agents in the enterprise and on PCs »
Ce que ça change pour une PME
Pour une PME de 10 à 250 personnes, l'intérêt dépend du matériel. Le Super VL de 120 milliards de paramètres est conçu pour une infrastructure Nvidia ; vous ne le ferez pas tourner sans machines dédiées. Les modèles Bolt plus petits visent de nouveaux PC et stations vendus via Microsoft, Dell et d'autres, ce qui peut garder certains agents hors du cloud. Selon Nvidia, vous pouvez affiner Super VL sur vos données et le déployer chez vous, ce qui peut limiter les transferts cloud au regard du RGPD, à condition d'avoir les puces compatibles et les compétences pour opérer ces modèles.
Ce que vous pouvez faire
- Vérifiez si vos PC ou stations actuelles ou prévues utilisent les puces Nvidia RTX Spark ou DGX Spark.
- Si vous traitez des données personnelles avec l'IA, comparez un modèle ouvert en local et une API cloud au regard du RGPD et du règlement européen sur l'IA.
- Notez les disponibilités indiquées par Nvidia : Super VL et le Bolt de 74 milliards de paramètres maintenant, le plus petit Bolt plus tard ce mois.
Parlons de vos gains de temps.
En 20 minutes, on identifie où l'IA peut vous faire gagner du temps ou de l'argent. Offert, sans engagement.