Bilgi İşlem Gücü Yeni Bir İş Modeli Haline Geliyor Büyük Model "Şifre Çözme" Heyecanı Belki de Geçecek
Son günlerde, büyük model eğitimi, yüksek performanslı hesaplama kaynakları üzerinde şiddetli bir rekabeti tetikledi. Bazı şirketler, Nvidia'nın GPU çiplerini yüksek fiyatlarla kapmaya bile razı oldu. Ancak, bu "dan yapma" heyecanı muhtemelen geçici bir olgu; bilgi işlem gücü sağlayıcıları, piyasanın rasyonel bir şekilde geri dönmesi için hazırlık yapmalıdır.
Edinilen bilgilere göre, şu anda ülkede 10 milyar parametreye ulaşan 100'den fazla büyük model bulunmaktadır. Ancak yüksek performanslı GPU'lar yetersiz kalmakta ve bu durum bilgi işlem gücü maliyetlerinin artmasına neden olmaktadır, bu da sektörün karşılaştığı ana zorluklardan biridir. Nvidia A100 GPU'nun fiyatı bir ara 200.000-300.000 yuan'a kadar yükselmiş, tek bir A100 sunucunun aylık kirası ise 50.000-70.000 yuan'a kadar çıkmıştır. Yine de, yüksek performanslı GPU'lar hala bulunmaz durumdadır.
Bu tür bir zorlukla karşılaşan işletmeler, çeşitli çözüm yolları arıyor:
Daha kaliteli veriler kullanarak eğitim verimliliğini artırın.
Altyapı kapasitesini artırmak, büyük ölçekli GPU kümelerinin uzun vadeli istikrarlı çalışmasını sağlamak
Kaynak planlamasını optimize et, GPU kullanım oranını artır.
Ağ mimarisini geliştirin, eğitim gecikmesini azaltın
Geleneksel bulut mimarisinin yerine süper bilgisayar mimarisi kullanma
Yerli GPU platformlarını Nvidia ürünlerinin yerine kullanın
Ancak, bu çözümler genel olarak işletmeler için teknik bir engel teşkil etmektedir. Bu nedenle, birçok algoritma ekibi büyük model eğitimini desteklemek için profesyonel bilgi işlem gücü hizmet sağlayıcılarını tercih etmektedir.
Gerçekten de, Bilgi İşlem Gücü yeni bir hizmet modeli haline gelmiştir. Bilgi İşlem Gücü hizmeti, yeni hesaplama teknolojileri aracılığıyla heterojen Bilgi İşlem Gücü'nün birleşik çıktısını sağlar ve bulut bilişim, büyük veri, AI gibi teknolojilerle entegre olur. Bu sadece Bilgi İşlem Gücü'nü değil, aynı zamanda depolama, ağ gibi kaynakların paketlenmesini de içerir ve API gibi biçimlerde kullanıcılara sunulur.
Güç işlem endüstri zincirinde, üst akış şirketleri temel donanım kaynaklarını sağlar, orta akış şirketleri güç üretimi ve dağıtımından sorumludur, alt akış şirketleri ise nihai kullanıcılardır. Bu tür bir işbölümü, kullanıcıların ihtiyaç duydukları bilgi işlem gücünü daha kolay elde etmelerini sağlar, karmaşık altyapıları kendileri inşa etmelerine gerek kalmadan.
Şu anda, kullanım başına ücretlendirme ve yıllık/aylık abonelik, ana akım Bilgi İşlem Gücü hizmeti ücretlendirme modelleridir. Gelecekte sektör, "hesaplama ve ağın entegrasyonu"nu teşvik edecek, farklı mimariler, bölgeler ve hizmet sağlayıcılar arasında esnek dağıtım sağlayacaktır.
Sanayi ve Bilgi Teknolojileri Bakanlığı verilerine göre, 2022 yılında Çin'in toplam bilgi işlem gücü 180 EFLOPS'a ulaştı ve dünya genelinde ikinci sırada yer aldı. Bilgi işlem sanayisinin büyüklüğü 1.8 trilyon yuan'a ulaştı. Büyük modellerin ortaya çıkışı, bilgi işlem sanayisinin gelişimini daha da hızlandırdı.
Ancak, sektör uzmanları mevcut "çip kapma" heyecanının muhtemelen geçici bir fenomen olduğunu düşünüyor. Uzun vadede, Bilgi İşlem Gücü kıtlığı sorunu nihayetinde çözülecektir. Gerçekten uzun vadeli araştırmalarla ilgilenen ekipler körü körüne alım yapmayacak, aksine piyasanın mantıklı bir şekilde geri dönmesini sabırla bekleyecekler.
Bilgi İşlem Gücü hizmet sağlayıcıları için acil olan, geleceği düşünmek ve piyasanın soğumasının ardından olacak değişikliklere hazırlık yapmaktır. Büyük model çılgınlığı yavaş yavaş azalırken, bu yeni iş modeli daha rasyonel ve sürdürülebilir bir gelişim sürecine girecektir.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
12 Likes
Reward
12
2
Repost
Share
Comment
0/400
AirdropHustler
· 6h ago
Yine bir Emiciler Tarafından Oyuna Getirilmek için iyi bir fırsat
Bilgi İşlem Gücü hizmetleri yeni bir iş fırsatı Halka modeli eğitiminde yükseliş ya da rasyonel bir eğilim.
Bilgi İşlem Gücü Yeni Bir İş Modeli Haline Geliyor Büyük Model "Şifre Çözme" Heyecanı Belki de Geçecek
Son günlerde, büyük model eğitimi, yüksek performanslı hesaplama kaynakları üzerinde şiddetli bir rekabeti tetikledi. Bazı şirketler, Nvidia'nın GPU çiplerini yüksek fiyatlarla kapmaya bile razı oldu. Ancak, bu "dan yapma" heyecanı muhtemelen geçici bir olgu; bilgi işlem gücü sağlayıcıları, piyasanın rasyonel bir şekilde geri dönmesi için hazırlık yapmalıdır.
Edinilen bilgilere göre, şu anda ülkede 10 milyar parametreye ulaşan 100'den fazla büyük model bulunmaktadır. Ancak yüksek performanslı GPU'lar yetersiz kalmakta ve bu durum bilgi işlem gücü maliyetlerinin artmasına neden olmaktadır, bu da sektörün karşılaştığı ana zorluklardan biridir. Nvidia A100 GPU'nun fiyatı bir ara 200.000-300.000 yuan'a kadar yükselmiş, tek bir A100 sunucunun aylık kirası ise 50.000-70.000 yuan'a kadar çıkmıştır. Yine de, yüksek performanslı GPU'lar hala bulunmaz durumdadır.
Bu tür bir zorlukla karşılaşan işletmeler, çeşitli çözüm yolları arıyor:
Ancak, bu çözümler genel olarak işletmeler için teknik bir engel teşkil etmektedir. Bu nedenle, birçok algoritma ekibi büyük model eğitimini desteklemek için profesyonel bilgi işlem gücü hizmet sağlayıcılarını tercih etmektedir.
Gerçekten de, Bilgi İşlem Gücü yeni bir hizmet modeli haline gelmiştir. Bilgi İşlem Gücü hizmeti, yeni hesaplama teknolojileri aracılığıyla heterojen Bilgi İşlem Gücü'nün birleşik çıktısını sağlar ve bulut bilişim, büyük veri, AI gibi teknolojilerle entegre olur. Bu sadece Bilgi İşlem Gücü'nü değil, aynı zamanda depolama, ağ gibi kaynakların paketlenmesini de içerir ve API gibi biçimlerde kullanıcılara sunulur.
Güç işlem endüstri zincirinde, üst akış şirketleri temel donanım kaynaklarını sağlar, orta akış şirketleri güç üretimi ve dağıtımından sorumludur, alt akış şirketleri ise nihai kullanıcılardır. Bu tür bir işbölümü, kullanıcıların ihtiyaç duydukları bilgi işlem gücünü daha kolay elde etmelerini sağlar, karmaşık altyapıları kendileri inşa etmelerine gerek kalmadan.
Şu anda, kullanım başına ücretlendirme ve yıllık/aylık abonelik, ana akım Bilgi İşlem Gücü hizmeti ücretlendirme modelleridir. Gelecekte sektör, "hesaplama ve ağın entegrasyonu"nu teşvik edecek, farklı mimariler, bölgeler ve hizmet sağlayıcılar arasında esnek dağıtım sağlayacaktır.
Sanayi ve Bilgi Teknolojileri Bakanlığı verilerine göre, 2022 yılında Çin'in toplam bilgi işlem gücü 180 EFLOPS'a ulaştı ve dünya genelinde ikinci sırada yer aldı. Bilgi işlem sanayisinin büyüklüğü 1.8 trilyon yuan'a ulaştı. Büyük modellerin ortaya çıkışı, bilgi işlem sanayisinin gelişimini daha da hızlandırdı.
Ancak, sektör uzmanları mevcut "çip kapma" heyecanının muhtemelen geçici bir fenomen olduğunu düşünüyor. Uzun vadede, Bilgi İşlem Gücü kıtlığı sorunu nihayetinde çözülecektir. Gerçekten uzun vadeli araştırmalarla ilgilenen ekipler körü körüne alım yapmayacak, aksine piyasanın mantıklı bir şekilde geri dönmesini sabırla bekleyecekler.
Bilgi İşlem Gücü hizmet sağlayıcıları için acil olan, geleceği düşünmek ve piyasanın soğumasının ardından olacak değişikliklere hazırlık yapmaktır. Büyük model çılgınlığı yavaş yavaş azalırken, bu yeni iş modeli daha rasyonel ve sürdürülebilir bir gelişim sürecine girecektir.