Puissance de calcul devient un nouveau modèle commercial La vague de "炼丹" des grands modèles pourrait s'estomper
Récemment, l'entraînement de modèles de grande taille a suscité une concurrence féroce pour des ressources informatiques haute performance. Certaines entreprises n'hésitent même pas à acheter à prix d'or des puces GPU de NVIDIA. Cependant, cette frénésie de "fabrication d'élixirs" pourrait n'être qu'un phénomène temporaire, et les fournisseurs de puissance de calcul doivent se préparer en amont à un retour à la rationalité du marché.
Il est entendu qu'il y a actuellement plus de 100 grands modèles en Chine, chacun atteignant 1 milliard de paramètres. Cependant, la demande de GPU haut de gamme dépasse l'offre, ce qui entraîne des coûts de puissance de calcul élevés, devenant l'un des principaux défis auxquels l'industrie est confrontée. Le prix des GPU Nvidia A100 a été porté à un niveau allant de 200 000 à 300 000 RMB, et le loyer mensuel d'un seul serveur A100 atteint également 50 000 à 70 000 RMB. Malgré cela, les GPU haut de gamme restent difficiles à obtenir.
Face à cette situation difficile, les entreprises cherchent diverses solutions.
Utiliser des données de meilleure qualité pour améliorer l'efficacité de l'entraînement
Améliorer la capacité des infrastructures pour réaliser le fonctionnement stable à long terme de grands clusters GPU.
Optimiser la planification des ressources, améliorer l'utilisation du GPU
Améliorer l'architecture du réseau pour réduire le retard d'entraînement.
Adopter une architecture de supercalcul pour remplacer l'architecture cloud traditionnelle
Utiliser une plateforme GPU nationale à la place des produits NVIDIA
Cependant, ces solutions présentent des barrières technologiques relativement élevées pour les entreprises ordinaires. Par conséquent, de nombreuses équipes d'algorithmes choisissent des fournisseurs de puissance de calcul professionnels pour soutenir l'entraînement de grands modèles.
En fait, la puissance de calcul est devenue un nouveau modèle de service. Les services de puissance de calcul réalisent une sortie unifiée de puissance de calcul hétérogène grâce à de nouvelles technologies de calcul, et s'intègrent avec des technologies telles que le cloud computing, le big data et l'IA. Cela inclut non seulement la puissance de calcul, mais également l'encapsulation de ressources telles que le stockage et le réseau, livrées aux utilisateurs sous forme d'API.
Dans la chaîne de l'industrie de la puissance de calcul, les entreprises en amont fournissent des ressources matérielles de base, les entreprises intermédiaires sont responsables de la production et de la répartition de la puissance de calcul, tandis que les entreprises en aval sont les utilisateurs finaux. Cette division du travail permet aux utilisateurs d'accéder plus facilement à la puissance de calcul nécessaire, sans avoir à construire des infrastructures complexes.
Actuellement, la facturation à la demande et les forfaits annuels ou mensuels sont les principaux modèles de facturation pour les services de puissance de calcul. À l'avenir, l'industrie poursuivra l'"intégration de la puissance de calcul et du réseau", permettant une gestion flexible à travers les architectures, les régions et les fournisseurs de services.
Les données du ministère de l'Industrie et des Technologies de l'information montrent qu'en 2022, la puissance de calcul totale de la Chine a atteint 180 EFLOPS, se classant au deuxième rang mondial, et la taille de l'industrie de la puissance de calcul a atteint 1,8 trillion de yuans. L'essor des grands modèles a encore accéléré le développement de l'industrie de la puissance de calcul.
Cependant, les experts de l'industrie estiment que la tendance actuelle à la "razzia de puces" pourrait n'être qu'un phénomène temporaire. À long terme, le problème de la pénurie de puissance de calcul finira par être résolu. Les équipes qui s'engagent dans une recherche à long terme ne se précipiteront pas pour acheter, mais attendront patiemment le retour à la rationalité du marché.
Pour les fournisseurs de puissance de calcul, l'urgence est de se préparer aux changements qui suivront un refroidissement du marché. Avec le déclin progressif de l'engouement pour les grands modèles, ce nouveau modèle commercial de puissance de calcul connaîtra un développement plus rationnel et durable.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
12 J'aime
Récompense
12
2
Reposter
Partager
Commentaire
0/400
AirdropHustler
· Il y a 6h
Encore une bonne occasion de se faire prendre pour des cons
Puissance de calcul service devient une nouvelle opportunité commerciale L'entraînement des grands modèles se réchauffe ou tend vers la rationalité
Puissance de calcul devient un nouveau modèle commercial La vague de "炼丹" des grands modèles pourrait s'estomper
Récemment, l'entraînement de modèles de grande taille a suscité une concurrence féroce pour des ressources informatiques haute performance. Certaines entreprises n'hésitent même pas à acheter à prix d'or des puces GPU de NVIDIA. Cependant, cette frénésie de "fabrication d'élixirs" pourrait n'être qu'un phénomène temporaire, et les fournisseurs de puissance de calcul doivent se préparer en amont à un retour à la rationalité du marché.
Il est entendu qu'il y a actuellement plus de 100 grands modèles en Chine, chacun atteignant 1 milliard de paramètres. Cependant, la demande de GPU haut de gamme dépasse l'offre, ce qui entraîne des coûts de puissance de calcul élevés, devenant l'un des principaux défis auxquels l'industrie est confrontée. Le prix des GPU Nvidia A100 a été porté à un niveau allant de 200 000 à 300 000 RMB, et le loyer mensuel d'un seul serveur A100 atteint également 50 000 à 70 000 RMB. Malgré cela, les GPU haut de gamme restent difficiles à obtenir.
Face à cette situation difficile, les entreprises cherchent diverses solutions.
Cependant, ces solutions présentent des barrières technologiques relativement élevées pour les entreprises ordinaires. Par conséquent, de nombreuses équipes d'algorithmes choisissent des fournisseurs de puissance de calcul professionnels pour soutenir l'entraînement de grands modèles.
En fait, la puissance de calcul est devenue un nouveau modèle de service. Les services de puissance de calcul réalisent une sortie unifiée de puissance de calcul hétérogène grâce à de nouvelles technologies de calcul, et s'intègrent avec des technologies telles que le cloud computing, le big data et l'IA. Cela inclut non seulement la puissance de calcul, mais également l'encapsulation de ressources telles que le stockage et le réseau, livrées aux utilisateurs sous forme d'API.
Dans la chaîne de l'industrie de la puissance de calcul, les entreprises en amont fournissent des ressources matérielles de base, les entreprises intermédiaires sont responsables de la production et de la répartition de la puissance de calcul, tandis que les entreprises en aval sont les utilisateurs finaux. Cette division du travail permet aux utilisateurs d'accéder plus facilement à la puissance de calcul nécessaire, sans avoir à construire des infrastructures complexes.
Actuellement, la facturation à la demande et les forfaits annuels ou mensuels sont les principaux modèles de facturation pour les services de puissance de calcul. À l'avenir, l'industrie poursuivra l'"intégration de la puissance de calcul et du réseau", permettant une gestion flexible à travers les architectures, les régions et les fournisseurs de services.
Les données du ministère de l'Industrie et des Technologies de l'information montrent qu'en 2022, la puissance de calcul totale de la Chine a atteint 180 EFLOPS, se classant au deuxième rang mondial, et la taille de l'industrie de la puissance de calcul a atteint 1,8 trillion de yuans. L'essor des grands modèles a encore accéléré le développement de l'industrie de la puissance de calcul.
Cependant, les experts de l'industrie estiment que la tendance actuelle à la "razzia de puces" pourrait n'être qu'un phénomène temporaire. À long terme, le problème de la pénurie de puissance de calcul finira par être résolu. Les équipes qui s'engagent dans une recherche à long terme ne se précipiteront pas pour acheter, mais attendront patiemment le retour à la rationalité du marché.
Pour les fournisseurs de puissance de calcul, l'urgence est de se préparer aux changements qui suivront un refroidissement du marché. Avec le déclin progressif de l'engouement pour les grands modèles, ce nouveau modèle commercial de puissance de calcul connaîtra un développement plus rationnel et durable.