Khả năng tính toán dịch vụ nổi lên Cơ hội và thách thức mới trong thời đại mô hình lớn

robot
Đang tạo bản tóm tắt

Khả năng tính toán dịch vụ: Mô hình kinh doanh mới trong thời đại mô hình lớn

Nhu cầu về khả năng tính toán trong đào tạo mô hình lớn đang thúc đẩy khả năng tính toán trở thành một mô hình kinh doanh mới. Mặc dù cơn sốt "luyện đan" mô hình lớn hiện tại có thể sẽ qua đi, nhưng các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước để đối phó với sự thay đổi của nhu cầu thị trường.

Gần đây, một số nhà nghiên cứu đã sử dụng dữ liệu thời tiết toàn cầu trong 40 năm, với 200 thẻ GPU thực hiện quá trình tiền huấn luyện kéo dài khoảng 2 tháng, cuối cùng đã đào tạo ra một mô hình khí tượng lớn với số lượng tham số đạt hàng triệu. Theo chi phí sử dụng GPU là 7,8 nhân dân tệ mỗi giờ, chi phí đào tạo mô hình lớn trong lĩnh vực này có thể vượt quá 2 triệu nhân dân tệ. Nếu là đào tạo mô hình lớn tổng quát, chi phí có thể tăng gấp trăm lần.

Hiện nay, Trung Quốc đã có hơn trăm mô hình lớn với quy mô 10 tỷ tham số. Tuy nhiên, ngành công nghiệp đang đổ xô phát triển các mô hình lớn nhưng gặp phải tình trạng thiếu hụt GPU cao cấp. Chi phí khả năng tính toán cao, thiếu hụt khả năng tính toán và vốn trở thành vấn đề trực tiếp nhất mà ngành phải đối mặt.

Vấn đề thiếu hụt GPU cao cấp khó có thể được giải quyết trong thời gian ngắn. Sự bùng nổ của các mô hình lớn đã dẫn đến nhu cầu về khả năng tính toán tăng nhanh trên thị trường, nhưng tốc độ cung cấp vẫn không theo kịp. Mặc dù về lâu dài, khả năng tính toán chắc chắn sẽ chuyển từ thị trường người bán sang thị trường người mua, nhưng quá trình này cần bao lâu vẫn là một ẩn số.

Đối mặt với tình huống này, trong ngành công nghiệp, người ta thường cho rằng, với sự gia tăng cạnh tranh trong thị trường mô hình lớn, thị trường cũng sẽ dần trở lại với lý trí từ sự cuồng nhiệt, và các doanh nghiệp sẽ điều chỉnh chi phí và chiến lược của mình dựa trên sự thay đổi của mong đợi.

Để đối phó với sự thiếu hụt khả năng tính toán, các doanh nghiệp đã áp dụng nhiều phương pháp khác nhau:

  1. Sử dụng dữ liệu chất lượng cao hơn để đào tạo, nâng cao hiệu quả đào tạo.

  2. Nâng cao khả năng hạ tầng, đạt được sự vận hành ổn định của cụm GPU quy mô lớn.

  3. Tối ưu hóa khả năng tính toán thẻ tài nguyên, nâng cao tỷ lệ sử dụng tài nguyên.

  4. Cải thiện hiệu suất mạng, nâng cao hiệu quả của việc đào tạo phân tán quy mô lớn.

  5. Chuyển từ kiến trúc điện toán đám mây sang kiến trúc siêu máy tính, giảm chi phí.

  6. Sử dụng nền tảng nội địa để đào tạo và suy luận mô hình lớn, thay thế GPU của Nvidia.

Khả năng tính toán đã dần hình thành một mô hình dịch vụ mới trong nhu cầu thị trường và sự phát triển công nghệ. Dịch vụ khả năng tính toán dựa trên khả năng tính toán đa dạng, liên kết qua mạng khả năng tính toán, và mục tiêu là cung cấp khả năng tính toán hiệu quả. Nó không chỉ bao gồm khả năng tính toán, mà còn đồng nhất đóng gói các tài nguyên như lưu trữ, mạng, v.v., để hoàn thành việc giao khả năng tính toán dưới dạng dịch vụ như API(.

Trong chuỗi công nghiệp khả năng tính toán, các doanh nghiệp thượng nguồn chủ yếu cung cấp tài nguyên khả năng tính toán cơ bản, các doanh nghiệp trung nguồn chịu trách nhiệm sản xuất và cung cấp khả năng tính toán, trong khi các doanh nghiệp hạ nguồn dựa vào dịch vụ khả năng tính toán để cung cấp dịch vụ gia tăng giá trị. Mô hình này so với việc doanh nghiệp tự xây dựng môi trường khả năng tính toán, có lợi thế hơn về chi phí và công nghệ.

Với việc nhu cầu tính toán hiệu suất cao của các mô hình lớn trở thành bình thường, dịch vụ khả năng tính toán đang nhanh chóng hình thành chuỗi công nghiệp và mô hình kinh doanh độc đáo. Mặc dù hiện tại vẫn còn tồn tại các vấn đề như thiếu hụt GPU cao cấp và chi phí khả năng tính toán cao, nhưng về lâu dài, xu hướng khả năng tính toán như một dịch vụ đã được thiết lập. Các nhà cung cấp dịch vụ khả năng tính toán cần phải sẵn sàng, có thể điều chỉnh chiến lược kịp thời khi nhu cầu thị trường thay đổi.

Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 6
  • Đăng lại
  • Chia sẻ
Bình luận
0/400
FOMOSapienvip
· 1giờ trước
Vị vua đốt tiền đã đến rồi
Xem bản gốcTrả lời0
SignatureVerifiervip
· 1giờ trước
*thở dài* về mặt kỹ thuật, lại một bong bóng tính toán không bền vững khác, thật đáng tiếc
Xem bản gốcTrả lời0
GasFeeBarbecuevip
· 1giờ trước
gpu đã bị khai thác hết
Xem bản gốcTrả lời0
PebbleHandervip
· 2giờ trước
Tiền lại mất rồi?
Xem bản gốcTrả lời0
StablecoinAnxietyvip
· 2giờ trước
Chơi lớn như vậy thật sự không sợ nổ sao?
Xem bản gốcTrả lời0
liquiditea_sippervip
· 2giờ trước
Nghèo đói hạn chế khả năng tính toán của tôi
Xem bản gốcTrả lời0
Giao dịch tiền điện tử mọi lúc mọi nơi
qrCode
Quét để tải xuống ứng dụng Gate
Cộng đồng
Tiếng Việt
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)