Puissance de calcul services : un nouveau modèle commercial à l'ère des grands modèles
La demande en puissance de calcul pour l'entraînement des grands modèles pousse celle-ci à devenir un nouveau modèle commercial. Bien que la tendance actuelle de "l'alchimie" des grands modèles puisse s'estomper, les fournisseurs de services de puissance de calcul doivent se préparer à l'avance pour les changements de la demande du marché.
Récemment, des chercheurs ont utilisé 40 ans de données météorologiques mondiales et ont effectué un pré-entraînement d'environ 2 mois avec 200 cartes GPU, aboutissant à un modèle météorologique de grande taille avec un nombre de paramètres atteignant des centaines de millions. Selon un coût d'utilisation de GPU de 7,8 yuans par heure, le coût d'entraînement de ce modèle de grande taille dans ce domaine vertical pourrait dépasser 2 millions de yuans. Si c'est pour entraîner un modèle de grande taille général, le coût pourrait augmenter de cent fois.
Actuellement, la Chine compte plus de cent modèles de grande taille avec dix milliards de paramètres. Cependant, l'industrie se précipite pour développer de grands modèles tout en faisant face à une pénurie de GPU haut de gamme. Le coût de la puissance de calcul est élevé, et le manque de puissance de calcul et de financement est devenu le problème le plus direct auquel l'industrie est confrontée.
Le problème de la pénurie de GPU haut de gamme est difficile à résoudre à court terme. L'explosion des grands modèles a entraîné une demande rapide de puissance de calcul sur le marché, mais l'augmentation de l'offre ne suit pas du tout. Bien qu'à long terme, l'offre de puissance de calcul passera d'un marché de vendeurs à un marché d'acheteurs, la durée de ce processus reste inconnue.
Face à cette situation, il est généralement admis dans l'industrie qu'avec l'intensification de la concurrence sur le marché des grands modèles, le marché reviendra progressivement à la rationalité après une période d'engouement, et les entreprises contrôleront leurs coûts et ajusteront leurs stratégies en fonction des changements attendus.
Pour faire face à la Puissance de calcul insuffisante, les entreprises ont adopté diverses méthodes :
Utiliser des données de meilleure qualité pour l'entraînement, afin d'améliorer l'efficacité de l'entraînement.
Améliorer les capacités d'infrastructure pour assurer le fonctionnement stable de grands clusters GPU.
Optimiser la répartition des ressources de Puissance de calcul, améliorer l'utilisation des ressources.
Améliorer les performances du réseau et augmenter l'efficacité de l'entraînement distribué à grande échelle.
Passer de l'architecture de cloud computing à l'architecture de supercalcul, réduire les coûts.
Utiliser des plateformes nationales pour l'entraînement et l'inférence de grands modèles, en remplacement des GPU Nvidia.
La puissance de calcul a progressivement formé un nouveau modèle de service sur le marché en fonction de la demande et de l'itération technologique. Les services de puissance de calcul sont basés sur une puissance de calcul diversifiée, reliés par un réseau de puissance de calcul, avec pour objectif de fournir efficacement la puissance de calcul. Cela inclut non seulement la puissance de calcul, mais encapsule également des ressources telles que le stockage et le réseau, afin de compléter la livraison de la puissance de calcul sous forme de service (, comme API ).
Dans la chaîne de l'industrie de la puissance de calcul, les entreprises en amont fournissent principalement des ressources de base en puissance de calcul, les entreprises intermédiaires sont responsables de la production et de l'approvisionnement en puissance de calcul, tandis que les entreprises en aval dépendent des services de puissance de calcul pour fournir des services à valeur ajoutée. Ce modèle présente des avantages en termes de coûts et de technologie par rapport à la construction d'un environnement de puissance de calcul par les entreprises.
Avec la normalisation de la demande de calcul haute performance des grands modèles, les services de puissance de calcul sont en train de former rapidement une chaîne industrielle et un modèle commercial uniques. Bien que des problèmes tels que la pénurie actuelle de GPU haut de gamme et les coûts élevés de la puissance de calcul existent encore, à long terme, la tendance à considérer la puissance de calcul comme un service est déjà établie. Les fournisseurs de services de puissance de calcul doivent être prêts à tout moment à ajuster leur stratégie en fonction des évolutions de la demande du marché.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
8 J'aime
Récompense
8
6
Reposter
Partager
Commentaire
0/400
FOMOSapien
· Il y a 1h
Le roi des dépenses arrive !
Voir l'originalRépondre0
SignatureVerifier
· Il y a 1h
*soupir* techniquement parlant, une autre bulle de calcul non durable smh
Voir l'originalRépondre0
GasFeeBarbecue
· Il y a 1h
les GPU sont complètement épuisés
Voir l'originalRépondre0
PebbleHander
· Il y a 2h
L'argent est encore parti?
Voir l'originalRépondre0
StablecoinAnxiety
· Il y a 2h
Jouer à ce point, n'avez-vous vraiment pas peur d'une explosion ?
Puissance de calcul services émergents : nouvelles opportunités et défis à l'ère des grands modèles
Puissance de calcul services : un nouveau modèle commercial à l'ère des grands modèles
La demande en puissance de calcul pour l'entraînement des grands modèles pousse celle-ci à devenir un nouveau modèle commercial. Bien que la tendance actuelle de "l'alchimie" des grands modèles puisse s'estomper, les fournisseurs de services de puissance de calcul doivent se préparer à l'avance pour les changements de la demande du marché.
Récemment, des chercheurs ont utilisé 40 ans de données météorologiques mondiales et ont effectué un pré-entraînement d'environ 2 mois avec 200 cartes GPU, aboutissant à un modèle météorologique de grande taille avec un nombre de paramètres atteignant des centaines de millions. Selon un coût d'utilisation de GPU de 7,8 yuans par heure, le coût d'entraînement de ce modèle de grande taille dans ce domaine vertical pourrait dépasser 2 millions de yuans. Si c'est pour entraîner un modèle de grande taille général, le coût pourrait augmenter de cent fois.
Actuellement, la Chine compte plus de cent modèles de grande taille avec dix milliards de paramètres. Cependant, l'industrie se précipite pour développer de grands modèles tout en faisant face à une pénurie de GPU haut de gamme. Le coût de la puissance de calcul est élevé, et le manque de puissance de calcul et de financement est devenu le problème le plus direct auquel l'industrie est confrontée.
Le problème de la pénurie de GPU haut de gamme est difficile à résoudre à court terme. L'explosion des grands modèles a entraîné une demande rapide de puissance de calcul sur le marché, mais l'augmentation de l'offre ne suit pas du tout. Bien qu'à long terme, l'offre de puissance de calcul passera d'un marché de vendeurs à un marché d'acheteurs, la durée de ce processus reste inconnue.
Face à cette situation, il est généralement admis dans l'industrie qu'avec l'intensification de la concurrence sur le marché des grands modèles, le marché reviendra progressivement à la rationalité après une période d'engouement, et les entreprises contrôleront leurs coûts et ajusteront leurs stratégies en fonction des changements attendus.
Pour faire face à la Puissance de calcul insuffisante, les entreprises ont adopté diverses méthodes :
Utiliser des données de meilleure qualité pour l'entraînement, afin d'améliorer l'efficacité de l'entraînement.
Améliorer les capacités d'infrastructure pour assurer le fonctionnement stable de grands clusters GPU.
Optimiser la répartition des ressources de Puissance de calcul, améliorer l'utilisation des ressources.
Améliorer les performances du réseau et augmenter l'efficacité de l'entraînement distribué à grande échelle.
Passer de l'architecture de cloud computing à l'architecture de supercalcul, réduire les coûts.
Utiliser des plateformes nationales pour l'entraînement et l'inférence de grands modèles, en remplacement des GPU Nvidia.
La puissance de calcul a progressivement formé un nouveau modèle de service sur le marché en fonction de la demande et de l'itération technologique. Les services de puissance de calcul sont basés sur une puissance de calcul diversifiée, reliés par un réseau de puissance de calcul, avec pour objectif de fournir efficacement la puissance de calcul. Cela inclut non seulement la puissance de calcul, mais encapsule également des ressources telles que le stockage et le réseau, afin de compléter la livraison de la puissance de calcul sous forme de service (, comme API ).
Dans la chaîne de l'industrie de la puissance de calcul, les entreprises en amont fournissent principalement des ressources de base en puissance de calcul, les entreprises intermédiaires sont responsables de la production et de l'approvisionnement en puissance de calcul, tandis que les entreprises en aval dépendent des services de puissance de calcul pour fournir des services à valeur ajoutée. Ce modèle présente des avantages en termes de coûts et de technologie par rapport à la construction d'un environnement de puissance de calcul par les entreprises.
Avec la normalisation de la demande de calcul haute performance des grands modèles, les services de puissance de calcul sont en train de former rapidement une chaîne industrielle et un modèle commercial uniques. Bien que des problèmes tels que la pénurie actuelle de GPU haut de gamme et les coûts élevés de la puissance de calcul existent encore, à long terme, la tendance à considérer la puissance de calcul comme un service est déjà établie. Les fournisseurs de services de puissance de calcul doivent être prêts à tout moment à ajuster leur stratégie en fonction des évolutions de la demande du marché.