Nvidia prépare une puce pour accélérer l'inférence IA face à la pression des rivaux

Nvidia, le géant américain des semi-conducteurs basé à Santa Clara en Californie, s’apprête à lancer une nouvelle puce dédiée à l’accélération de l’inférence en intelligence artificielle, en réponse à la pression accrue de ses rivaux. Cette initiative cible la demande croissante pour le traitement rapide des requêtes, phase où les modèles d’IA pré-entraînés génèrent des réponses. Elle vise à contrer la concurrence dans un secteur en pleine expansion, potentiellement en secouant le marché du calcul. L’inférence en intelligence artificielle se distingue nettement de l’entraînement des modèles, qui requiert une puissance de calcul intensive. La demande pour l’inférence connaît une explosion avec la multiplication des applications telles que les chatbots ou les générateurs d’images. Nvidia domine actuellement ce domaine grâce à ses processeurs graphiques (GPU), en particulier le H100, largement utilisés pour les tâches d’entraînement intensif des modèles d’IA à grande échelle. Cependant, des rivaux comme AMD et Intel, ainsi que les puces sur mesure développées par Google et Amazon, défient cette suprématie en proposant des alternatives optimisées spécifiquement pour l’inférence. Ces concurrents pourraient offrir des solutions plus efficaces ou moins coûteuses, menaçant la position dominante de Nvidia sur le marché des semi-conducteurs pour l’IA. La nouvelle puce se concentre sur un traitement ultra-rapide des requêtes d’inférence, ce qui pourrait permettre à Nvidia de conserver son avance alors que les déploiements massifs d’intelligence artificielle, y compris les grands modèles de langage, exigent une efficacité accrue en termes de performance et de consommation énergétique. Aucune précision n’a été donnée sur les spécifications techniques ou la date de sortie. D’ici 2025, le marché de l’inférence pourrait surpasser celui de l’entraînement en importance économique. Cette évolution positionne Nvidia pour capter une part majeure de cette croissance, sous le regard attentif des investisseurs face à une concurrence de plus en plus rude.