Le paysage de l'infrastructure de l'intelligence artificielle est en train de vivre un tournant majeur. Alors que la course aux armements pour l'entraînement des grands modèles de langage (LLM) a jusqu'à présent mis en lumière les processeurs graphiques (GPU) ultra-coûteux de Nvidia, une nouvelle tendance émerge : celle de l'inférence. Un accord historique de 400 millions de dollars illustre parfaitement cette transition vers une IA plus abordable et spécialisée.

Un financement inédit pour bousculer le monopole de Nvidia

La startup de cloud d'inférence IA General Compute vient de décrocher un prêt de 400 millions de dollars auprès de la société d'investissement technologique Upper90. La particularité de ce deal ? Il s'agit probablement du tout premier financement garanti par des puces spécifiquement conçues pour l'inférence (l'exécution de modèles d'IA déjà entraînés), et non par les GPU traditionnels utilisés pour l'apprentissage.

Fondée par Finn Puklowski, General Compute a pour objectif de bâtir un « néocloud » d'inférence — une infrastructure construite sur mesure pour les charges de travail d'IA, contrairement aux serveurs polyvalents des géants du Web comme AWS ou Azure.

Pourquoi l'inférence devient la nouvelle priorité

Alors que l'engouement initial se concentrait sur la création de modèles géants, le marché réalise aujourd'hui que faire tourner ces modèles à grande échelle nécessite une efficacité redoutable. C'est là que les puces d'inférence entrent en jeu.

• Efficacité énergétique : Les puces SN50 utilisées par General Compute (conçues par SambaNova) consomment moins d'énergie et ne nécessitent pas de systèmes de refroidissement liquide complexes.
• Déploiement rapide : Grâce à des exigences d'infrastructure simplifiées, ces puces peuvent être déployées rapidement dans une plus grande variété de centres de données.
• Performances accrues : Selon General Compute, ces puces spécialisées peuvent offrir une vitesse d'inférence jusqu'à 16 fois plus rapide que celle des clouds basés sur des GPU classiques.

La fin de l'hégémonie de Nvidia ?

Jusqu'à récemment, l'obtention de prêts bancaires adossés à du matériel informatique était réservée aux GPU de Nvidia, considérés comme des valeurs sûres. Upper90 avait d'ailleurs été l'un des premiers à financer l'achat de GPU pour la startup Crusoe en 2021, ouvrant la voie à des géants comme CoreWeave.

Aujourd'hui, alors que le marché des GPU arrive à maturité, les investisseurs cherchent la prochaine opportunité de croissance. Comme le souligne Billy Libby, cofondateur et PDG d'Upper90 :

« Tout le monde n'a pas besoin d'un supercalculateur, mais tout le monde a besoin d'inférence et d'IA. »

Cette diversification est cruciale pour l'industrie. Des alternatives solides à l'écosystème fermé de Nvidia commencent à s'imposer. Par exemple, TensorWave mise de son côté sur les puces AMD, tandis que d'autres acteurs comme Groq ou Cerebras attirent de plus en plus l'attention des marchés publics.

En diversifiant les sources de silicium et en structurant de nouvelles solutions de financement, les acteurs de la tech posent les bases d'un écosystème IA plus fragmenté, plus compétitif et, surtout, beaucoup plus accessible financièrement pour les entreprises du monde entier.