Selon les rapports, l'extrémité de puce en amont de NVIDIA AI GPU H200 est entrée dans la période de production de masse à la fin du Q2 et devrait être livrée en grande quantité après le troisième trimestre.Mais le calendrier de lancement de la plate-forme NVIDIA Blackwell est d'au moins un à deux trimestres d'avance, ce qui affecte la volonté des clients finaux d'acheter H200.
La chaîne d'approvisionnement souligne qu'actuellement, les commandes du client en attente d'expédition sont encore principalement concentrées dans l'architecture HGX de H100, avec une proportion limitée de H200.Au Q3, le H200 qui sera produit en masse et livré est principalement NVIDIA DGX H200;Quant à B100, il a déjà une visibilité partielle et devrait être expédié au premier semestre de l'année prochaine.
En tant que produit de mise à niveau itératif du GPU H100, H200 adopte pour la première fois la technologie de mémoire à grande bande passante HBM3E, d'obtenir une vitesse de transfert de données plus rapide et une plus grande capacité de mémoire, en particulier montrant des avantages importants pour les applications de modèle de langue à grande échelle.Selon les données officielles publiées par NVIDIA, lorsqu'ils traitent de modèles complexes de langage grand tel que LLAMA2 de META, H200 a une amélioration maximale de 45% de la vitesse de réponse généative de la sortie AI par rapport à H100.
H200 est positionné comme un autre produit d'étalage de NVIDIA dans le domaine de l'informatique de l'IA, non seulement héritant des avantages de H100, mais aussi d'obtenir des percées importantes dans les performances de la mémoire.Avec l'application commerciale de H200, la demande de mémoire de bande passante élevée devrait continuer à augmenter, ce qui stimulera davantage le développement de toute la chaîne de l'industrie du matériel informatique de l'IA, en particulier les opportunités de marché pour les fournisseurs liés à HBM3E.
Le GPU B100 adoptera la technologie de refroidissement liquide.La dissipation de la chaleur est devenue un facteur clé pour améliorer les performances des puces.Le TDP du GPU NVIDIA H200 est de 700W, alors qu'il est estimé de façon prudente que le TDP de B100 est proche des kilowatts.Le refroidissement à l'air traditionnel peut ne pas être en mesure de répondre aux exigences de dissipation thermique pendant le fonctionnement des puces, et la technologie de dissipation thermique sera innovée entièrement vers le refroidissement des liquides.
Le PDG de NVIDIA, Huang Renxun, a déclaré qu'à partir du GPU B100, la technologie de refroidissement de tous les produits à l'avenir passera du refroidissement de l'air au refroidissement liquide.Galaxy Securities estime que le B100GPU de Nvidia a au moins le double des performances de H200 et dépassera quatre fois celui de H100.L'amélioration des performances des puces est en partie due aux processus avancés, et en revanche, la dissipation de la chaleur est devenue un facteur clé pour améliorer les performances des puces.Le TDP du GPU H200 de NVIDIA est de 700W, ce qui est estimé de manière conservatrice proche de Kilowatts.Le refroidissement à l'air traditionnel peut ne pas être en mesure de répondre aux besoins de dissipation thermique pendant le fonctionnement des puces, et la technologie de dissipation thermique sera entièrement révolutionnée vers le refroidissement du liquide.
