Poder de computação: um novo modelo de negócios na era dos grandes modelos
A necessidade de poder de computação para o treinamento de grandes modelos está a impulsionar o poder de computação a tornar-se um novo modelo de negócio. Embora a atual onda de "refinar elixires" de grandes modelos possa passar, os prestadores de serviços de poder de computação precisam de se preparar para as mudanças na demanda do mercado.
Recentemente, investigadores utilizaram 40 anos de dados meteorológicos globais e realizaram um pré-treinamento com cerca de 200 placas GPU durante aproximadamente 2 meses, resultando num modelo meteorológico com um número de parâmetros na casa dos milhões. Com base no custo de utilização das GPUs de 7,8 yuan por hora, o custo de treino deste modelo em um domínio vertical pode ultrapassar 2 milhões de yuan. Se fosse um modelo geral, o custo poderia aumentar em cem vezes.
Atualmente, a China já tem mais de cem grandes modelos com uma escala de 10 bilhões de parâmetros. No entanto, a corrida da indústria para desenvolver grandes modelos enfrenta a dificuldade da escassez de GPUs de alta performance. Os custos de poder de computação são elevados, e a falta de poder de computação e financiamento tornou-se o problema mais direto que a indústria enfrenta.
A escassez de GPUs de alta gama é difícil de resolver a curto prazo. A explosão dos grandes modelos levou a um rápido aumento na demanda por Poder de computação no mercado, mas a taxa de crescimento da oferta está muito aquém. Embora a longo prazo a oferta de Poder de computação deva passar de um mercado de vendedores para um mercado de compradores, ainda é desconhecido quanto tempo esse processo levará.
Diante dessa situação, a indústria acredita amplamente que, à medida que a concorrência no mercado de grandes modelos aumenta, o mercado também irá gradualmente retornar à racionalidade, e as empresas ajustarão seus custos e estratégias de acordo com as mudanças nas expectativas.
Para lidar com a escassez de poder de computação, as empresas adotaram várias abordagens:
Utilizar dados de maior qualidade para treino, aumentando a eficiência do treino.
Melhorar a capacidade da infraestrutura, garantindo a operação estável de grandes clusters de GPU.
Otimizar o agendamento de recursos da placa de poder de computação, aumentando a taxa de utilização dos recursos.
Melhorar o desempenho da rede e aumentar a eficiência do treinamento distribuído em larga escala.
Passar da arquitetura de computação em nuvem para a arquitetura de supercomputação, reduzindo custos.
Utilizar plataformas nacionais para treinamento e inferência de grandes modelos, substituindo a GPU da Nvidia.
O poder de computação já se formou gradualmente em um novo modelo de serviço no mercado de demanda e iteração tecnológica. O serviço de poder de computação baseia-se em um poder de computação diversificado, conecta-se por meio de uma rede de poder de computação e tem como objetivo fornecer poder de computação de forma eficaz. Ele não inclui apenas o poder de computação, mas também encapsula uniformemente recursos como armazenamento, rede, entre outros, para realizar a entrega do poder de computação na forma de serviço ( como API ).
Na cadeia industrial de poder de computação, as empresas upstream fornecem principalmente recursos básicos de poder de computação, as empresas midstream são responsáveis pela produção e fornecimento de poder de computação, e as empresas downstream dependem de serviços de poder de computação para oferecer serviços de valor acrescentado. Este modelo, em comparação com as empresas que constroem o seu próprio ambiente de poder de computação, tem vantagens em termos de custos e tecnologia.
Com a normalização da demanda por computação de alto desempenho de grandes modelos, os serviços de poder de computação estão rapidamente formando uma cadeia industrial e um modelo de negócios únicos. Embora atualmente existam problemas como a escassez de GPUs de alta gama e o alto custo do poder de computação, a tendência de o poder de computação ser um serviço já está estabelecida a longo prazo. Os prestadores de serviços de poder de computação precisam estar sempre prontos para ajustar suas estratégias rapidamente quando houver mudanças na demanda do mercado.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
8 Curtidas
Recompensa
8
6
Repostar
Compartilhar
Comentário
0/400
FOMOSapien
· 1h atrás
O Rei do Queimar Dinheiro chegou!
Ver originalResponder0
SignatureVerifier
· 1h atrás
*sigh* tecnicamente falando, outra bolha de computação insustentável smh
Ver originalResponder0
GasFeeBarbecue
· 1h atrás
a gpu foi totalmente esgotada
Ver originalResponder0
PebbleHander
· 2h atrás
O dinheiro já se foi?
Ver originalResponder0
StablecoinAnxiety
· 2h atrás
Brincar assim tão grande não tem medo de explodir?
Poder de computação serviços emergem como novas oportunidades e desafios na era dos grandes modelos
Poder de computação: um novo modelo de negócios na era dos grandes modelos
A necessidade de poder de computação para o treinamento de grandes modelos está a impulsionar o poder de computação a tornar-se um novo modelo de negócio. Embora a atual onda de "refinar elixires" de grandes modelos possa passar, os prestadores de serviços de poder de computação precisam de se preparar para as mudanças na demanda do mercado.
Recentemente, investigadores utilizaram 40 anos de dados meteorológicos globais e realizaram um pré-treinamento com cerca de 200 placas GPU durante aproximadamente 2 meses, resultando num modelo meteorológico com um número de parâmetros na casa dos milhões. Com base no custo de utilização das GPUs de 7,8 yuan por hora, o custo de treino deste modelo em um domínio vertical pode ultrapassar 2 milhões de yuan. Se fosse um modelo geral, o custo poderia aumentar em cem vezes.
Atualmente, a China já tem mais de cem grandes modelos com uma escala de 10 bilhões de parâmetros. No entanto, a corrida da indústria para desenvolver grandes modelos enfrenta a dificuldade da escassez de GPUs de alta performance. Os custos de poder de computação são elevados, e a falta de poder de computação e financiamento tornou-se o problema mais direto que a indústria enfrenta.
A escassez de GPUs de alta gama é difícil de resolver a curto prazo. A explosão dos grandes modelos levou a um rápido aumento na demanda por Poder de computação no mercado, mas a taxa de crescimento da oferta está muito aquém. Embora a longo prazo a oferta de Poder de computação deva passar de um mercado de vendedores para um mercado de compradores, ainda é desconhecido quanto tempo esse processo levará.
Diante dessa situação, a indústria acredita amplamente que, à medida que a concorrência no mercado de grandes modelos aumenta, o mercado também irá gradualmente retornar à racionalidade, e as empresas ajustarão seus custos e estratégias de acordo com as mudanças nas expectativas.
Para lidar com a escassez de poder de computação, as empresas adotaram várias abordagens:
Utilizar dados de maior qualidade para treino, aumentando a eficiência do treino.
Melhorar a capacidade da infraestrutura, garantindo a operação estável de grandes clusters de GPU.
Otimizar o agendamento de recursos da placa de poder de computação, aumentando a taxa de utilização dos recursos.
Melhorar o desempenho da rede e aumentar a eficiência do treinamento distribuído em larga escala.
Passar da arquitetura de computação em nuvem para a arquitetura de supercomputação, reduzindo custos.
Utilizar plataformas nacionais para treinamento e inferência de grandes modelos, substituindo a GPU da Nvidia.
O poder de computação já se formou gradualmente em um novo modelo de serviço no mercado de demanda e iteração tecnológica. O serviço de poder de computação baseia-se em um poder de computação diversificado, conecta-se por meio de uma rede de poder de computação e tem como objetivo fornecer poder de computação de forma eficaz. Ele não inclui apenas o poder de computação, mas também encapsula uniformemente recursos como armazenamento, rede, entre outros, para realizar a entrega do poder de computação na forma de serviço ( como API ).
Na cadeia industrial de poder de computação, as empresas upstream fornecem principalmente recursos básicos de poder de computação, as empresas midstream são responsáveis pela produção e fornecimento de poder de computação, e as empresas downstream dependem de serviços de poder de computação para oferecer serviços de valor acrescentado. Este modelo, em comparação com as empresas que constroem o seu próprio ambiente de poder de computação, tem vantagens em termos de custos e tecnologia.
Com a normalização da demanda por computação de alto desempenho de grandes modelos, os serviços de poder de computação estão rapidamente formando uma cadeia industrial e um modelo de negócios únicos. Embora atualmente existam problemas como a escassez de GPUs de alta gama e o alto custo do poder de computação, a tendência de o poder de computação ser um serviço já está estabelecida a longo prazo. Os prestadores de serviços de poder de computação precisam estar sempre prontos para ajustar suas estratégias rapidamente quando houver mudanças na demanda do mercado.