Khả năng tính toán trở thành mô hình kinh doanh mới Cơn sốt "luyện đan" của các mô hình lớn có thể sẽ qua đi
Gần đây, việc huấn luyện mô hình lớn đã gây ra sự cạnh tranh khốc liệt về tài nguyên tính toán hiệu suất cao. Một số doanh nghiệp thậm chí sẵn sàng chi nhiều tiền để mua chip GPU của Nvidia. Tuy nhiên, cơn sốt "luyện đan" này có thể chỉ là hiện tượng tạm thời, các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước cho sự trở lại hợp lý của thị trường.
Theo thông tin, hiện tại trong nước đã có hơn 100 mô hình quy mô đạt 10 tỷ tham số. Nhưng GPU cao cấp đang bị thiếu hụt, dẫn đến chi phí khả năng tính toán cao, trở thành một trong những thách thức chính mà ngành công nghiệp phải đối mặt. Giá của GPU A100 của Nvidia đã từng bị đẩy lên tới 200-300 triệu nhân dân tệ, thuê một máy chủ A100 trong một tháng cũng lên tới 50-70 triệu. Dù vậy, GPU cao cấp vẫn khó tìm.
Đối mặt với tình huống khó khăn này, các doanh nghiệp đang tìm kiếm nhiều biện pháp đối phó khác nhau:
Sử dụng dữ liệu chất lượng cao hơn để nâng cao hiệu quả đào tạo
Nâng cao khả năng hạ tầng, đạt được sự vận hành ổn định lâu dài của các cụm GPU quy mô lớn
Tối ưu hóa phân bổ tài nguyên, nâng cao khả năng tính toán GPU
Cải thiện kiến trúc mạng, giảm độ trễ trong huấn luyện
Sử dụng kiến trúc siêu máy tính thay thế cho kiến trúc đám mây truyền thống
Sử dụng nền tảng GPU nội địa thay thế sản phẩm của Nvidia
Tuy nhiên, những giải pháp này có ngưỡng kỹ thuật tương đối cao đối với các doanh nghiệp thông thường. Do đó, nhiều đội ngũ thuật toán chọn các nhà cung cấp dịch vụ khả năng tính toán chuyên nghiệp để hỗ trợ đào tạo mô hình lớn.
Trên thực tế, khả năng tính toán đã phát triển thành một mô hình dịch vụ mới. Dịch vụ khả năng tính toán đạt được đầu ra thống nhất của khả năng tính toán không đồng nhất thông qua công nghệ tính toán mới, và tích hợp với các công nghệ như điện toán đám mây, dữ liệu lớn, AI. Nó không chỉ bao gồm khả năng tính toán, mà còn bao gồm việc đóng gói các tài nguyên như lưu trữ, mạng, và cung cấp cho người dùng dưới dạng API.
Trong chuỗi công nghiệp khả năng tính toán, các doanh nghiệp thượng nguồn cung cấp tài nguyên phần cứng cơ bản, các doanh nghiệp trung nguồn chịu trách nhiệm sản xuất và điều phối khả năng tính toán, còn các doanh nghiệp hạ nguồn là người dùng cuối. Sự phân công này giúp người dùng có thể dễ dàng hơn trong việc tiếp cận khả năng tính toán cần thiết mà không cần xây dựng cơ sở hạ tầng phức tạp.
Hiện tại, tính phí theo khối lượng và gói năm gói tháng là mô hình tính phí dịch vụ khả năng tính toán phổ biến. Trong tương lai, ngành sẽ tiếp tục thúc đẩy "tích hợp khả năng tính toán và mạng", đạt được việc điều phối linh hoạt xuyên kiến trúc, xuyên vùng, xuyên nhà cung cấp dịch vụ.
Dữ liệu từ Bộ Công nghiệp và Công nghệ thông tin cho thấy, vào năm 2022, tổng quy mô khả năng tính toán của Trung Quốc đạt 180EFLOPS, đứng thứ hai thế giới, quy mô ngành công nghiệp khả năng tính toán đã đạt 1.8 triệu tỷ nhân dân tệ. Sự nổi lên của các mô hình lớn đã thúc đẩy nhanh chóng sự phát triển của ngành công nghiệp khả năng tính toán.
Tuy nhiên, các chuyên gia trong ngành cho rằng, cơn sốt "giành chip" hiện tại có thể chỉ là hiện tượng tạm thời. Trong dài hạn, vấn đề thiếu hụt khả năng tính toán cuối cùng sẽ được giải quyết. Các đội ngũ thực sự tham gia nghiên cứu lâu dài sẽ không mù quáng mua sắm, mà sẽ kiên nhẫn chờ đợi thị trường trở lại trạng thái hợp lý.
Đối với các nhà cung cấp dịch vụ khả năng tính toán, điều cấp bách hiện nay là chuẩn bị cho những thay đổi sau khi thị trường hạ nhiệt. Khi cơn sốt mô hình lớn dần lắng xuống, dịch vụ khả năng tính toán, một mô hình kinh doanh mới nổi, sẽ bước vào giai đoạn phát triển hợp lý và bền vững hơn.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Khả năng tính toán dịch vụ trở thành cơ hội kinh doanh mới, sự nóng lên trong việc đào tạo mô hình lớn có thể trở nên hợp lý.
Khả năng tính toán trở thành mô hình kinh doanh mới Cơn sốt "luyện đan" của các mô hình lớn có thể sẽ qua đi
Gần đây, việc huấn luyện mô hình lớn đã gây ra sự cạnh tranh khốc liệt về tài nguyên tính toán hiệu suất cao. Một số doanh nghiệp thậm chí sẵn sàng chi nhiều tiền để mua chip GPU của Nvidia. Tuy nhiên, cơn sốt "luyện đan" này có thể chỉ là hiện tượng tạm thời, các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước cho sự trở lại hợp lý của thị trường.
Theo thông tin, hiện tại trong nước đã có hơn 100 mô hình quy mô đạt 10 tỷ tham số. Nhưng GPU cao cấp đang bị thiếu hụt, dẫn đến chi phí khả năng tính toán cao, trở thành một trong những thách thức chính mà ngành công nghiệp phải đối mặt. Giá của GPU A100 của Nvidia đã từng bị đẩy lên tới 200-300 triệu nhân dân tệ, thuê một máy chủ A100 trong một tháng cũng lên tới 50-70 triệu. Dù vậy, GPU cao cấp vẫn khó tìm.
Đối mặt với tình huống khó khăn này, các doanh nghiệp đang tìm kiếm nhiều biện pháp đối phó khác nhau:
Tuy nhiên, những giải pháp này có ngưỡng kỹ thuật tương đối cao đối với các doanh nghiệp thông thường. Do đó, nhiều đội ngũ thuật toán chọn các nhà cung cấp dịch vụ khả năng tính toán chuyên nghiệp để hỗ trợ đào tạo mô hình lớn.
Trên thực tế, khả năng tính toán đã phát triển thành một mô hình dịch vụ mới. Dịch vụ khả năng tính toán đạt được đầu ra thống nhất của khả năng tính toán không đồng nhất thông qua công nghệ tính toán mới, và tích hợp với các công nghệ như điện toán đám mây, dữ liệu lớn, AI. Nó không chỉ bao gồm khả năng tính toán, mà còn bao gồm việc đóng gói các tài nguyên như lưu trữ, mạng, và cung cấp cho người dùng dưới dạng API.
Trong chuỗi công nghiệp khả năng tính toán, các doanh nghiệp thượng nguồn cung cấp tài nguyên phần cứng cơ bản, các doanh nghiệp trung nguồn chịu trách nhiệm sản xuất và điều phối khả năng tính toán, còn các doanh nghiệp hạ nguồn là người dùng cuối. Sự phân công này giúp người dùng có thể dễ dàng hơn trong việc tiếp cận khả năng tính toán cần thiết mà không cần xây dựng cơ sở hạ tầng phức tạp.
Hiện tại, tính phí theo khối lượng và gói năm gói tháng là mô hình tính phí dịch vụ khả năng tính toán phổ biến. Trong tương lai, ngành sẽ tiếp tục thúc đẩy "tích hợp khả năng tính toán và mạng", đạt được việc điều phối linh hoạt xuyên kiến trúc, xuyên vùng, xuyên nhà cung cấp dịch vụ.
Dữ liệu từ Bộ Công nghiệp và Công nghệ thông tin cho thấy, vào năm 2022, tổng quy mô khả năng tính toán của Trung Quốc đạt 180EFLOPS, đứng thứ hai thế giới, quy mô ngành công nghiệp khả năng tính toán đã đạt 1.8 triệu tỷ nhân dân tệ. Sự nổi lên của các mô hình lớn đã thúc đẩy nhanh chóng sự phát triển của ngành công nghiệp khả năng tính toán.
Tuy nhiên, các chuyên gia trong ngành cho rằng, cơn sốt "giành chip" hiện tại có thể chỉ là hiện tượng tạm thời. Trong dài hạn, vấn đề thiếu hụt khả năng tính toán cuối cùng sẽ được giải quyết. Các đội ngũ thực sự tham gia nghiên cứu lâu dài sẽ không mù quáng mua sắm, mà sẽ kiên nhẫn chờ đợi thị trường trở lại trạng thái hợp lý.
Đối với các nhà cung cấp dịch vụ khả năng tính toán, điều cấp bách hiện nay là chuẩn bị cho những thay đổi sau khi thị trường hạ nhiệt. Khi cơn sốt mô hình lớn dần lắng xuống, dịch vụ khả năng tính toán, một mô hình kinh doanh mới nổi, sẽ bước vào giai đoạn phát triển hợp lý và bền vững hơn.