CNBC a rapporté que le rack Groq 3 LPX de NVIDIA Corporation (NASDAQ : NVDA) est en pleine production et sera déployé aux côtés de ses processeurs Vera et de ses GPU Rubin sur le neocloud Nebius plus tard cette année, a déclaré aux journalistes le directeur principal de Nvidia, Dion Harris.
Le rack marque la commercialisation de la technologie issue de l’achat par Nvidia des actifs de Groq pour 20 milliards de dollars en décembre, sa plus grande transaction jamais enregistrée. Chaque rack refroidi par liquide contient 256 puces Groq. Nvidia a déclaré que le rack peut fournir 3 400 jetons par seconde, en notant une référence d’Artificial Analysis. Les puces de Groq sont fabriquées par Samsung, contrairement aux GPU de Nvidia, qui sont fabriqués par Taiwan Semiconductor Manufacturing Co.
L’accord Groq de 20 milliards de dollars représente un risque financier gérable pour NVIDIA Corporation (NASDAQ :NVDA) par rapport aux capacités stratégiques qu’il pourrait ajouter à l’entreprise. L’analyste de Bernstein, Stacy Rasgon, a déclaré à CNBC que Nvidia est suffisamment solide financièrement pour absorber une transaction de cette taille avec peu d’impact sur sa position globale. Cela donne à Nvidia la flexibilité nécessaire pour réaliser des investissements stratégiques importants tout en se développant dans de nouvelles technologies de puces IA sans alourdir considérablement son bilan.
La technologie de Groq étend la domination de Nvidia sur l’ensemble de la pile de calcul de l’IA plutôt que de créer une gamme de produits rivale. LPX gère l’inférence à faible latence tandis que les GPU de Nvidia continuent de gérer la formation et le traitement de grands contextes. Le rack peut être associé aux puces Vera Rubin sans que les clients modifient leurs flux de travail CUDA, renforçant ainsi le verrouillage logiciel qui a rendu Nvidia difficile à déplacer.
L’exécution a été rapide, ce qui est important dans un marché qui évolue aussi rapidement. Nvidia est passé de l’annonce de l’achat de Groq en décembre à la pleine production et à un client nommé, Nebius, en huit mois. C’est un rythme qui montre que Nvidia peut absorber la technologie acquise et l’expédier plutôt que de la laisser stagner dans son intégration.
La vitesse d’inférence de Nvidia présente désormais un avantage quantifié par rapport à l’approche d’un rival clé. Les 3 400 jetons par seconde du rack Groq se comparent aux 750 jetons par seconde promis par OpenAI pour son mode « Ultrarapide » alimenté par Cerebras. Cela donne à Nvidia une référence sur laquelle il peut s’appuyer lorsque les fournisseurs de cloud recherchent une inférence d’IA plus rapide et plus réactive.
[…] La suite de l’article est à lire sur Yahoo Finance via le lien ci-dessous.
Traduit automatiquement de l’anglais. Le texte original fait foi.
Source : Yahoo Finance — Lire l’article original
À propos de l'auteur
