Hiệu suất vượt trội của mô hình Manus khơi gợi suy nghĩ về con đường phát triển AI

Gần đây, mô hình Manus đã đạt được thành công đột phá trong bài kiểm tra chuẩn GAIA, với hiệu suất vượt trội hơn các mô hình ngôn ngữ lớn cùng cấp. Điều này có nghĩa là Manus có thể hoàn thành độc lập các nhiệm vụ phức tạp như đàm phán thương mại xuyên quốc gia, liên quan đến phân tích điều khoản hợp đồng, hoạch định chiến lược và tạo ra các phương án, thậm chí có thể phối hợp các đội ngũ pháp lý và tài chính.

Lợi thế của Manus chủ yếu nằm ở ba khía cạnh: khả năng phân tách mục tiêu động, khả năng suy diễn đa mô hình và khả năng học tăng cường trí nhớ. Nó có thể phân chia các nhiệm vụ phức tạp thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu khác nhau, và thông qua học tăng cường liên tục nâng cao hiệu quả quyết định và giảm tỷ lệ sai sót.

Bước tiến đột phá này lại một lần nữa kích thích cuộc thảo luận trong lĩnh vực trí tuệ nhân tạo về con đường phát triển tương lai: liệu có nên phát triển theo hướng trí tuệ nhân tạo tổng quát (AGI), hay là hệ thống đa tác nhân (MAS) sẽ chiếm ưu thế trong sự hợp tác?

Ý tưởng thiết kế của Manus gợi ý hai khả năng: một là con đường AGI, thông qua việc cải thiện liên tục mức độ trí tuệ của cá thể, nhằm đạt được khả năng ra quyết định tổng hợp gần giống như con người; hai là con đường MAS, với vai trò là người điều phối siêu cấp chỉ huy hàng nghìn tác nhân thông minh trong các lĩnh vực chuyên môn phối hợp làm việc.

Bề ngoài, đây là một cuộc tranh luận về con đường công nghệ, nhưng thực chất phản ánh mâu thuẫn sâu sắc trong việc cân bằng giữa hiệu quả và an toàn trong sự phát triển của AI. Khi trí tuệ đơn thể càng gần với AGI, rủi ro về tính không minh bạch trong quá trình ra quyết định càng cao; trong khi đó, sự hợp tác của nhiều trí tuệ nhân tạo có thể phân tán rủi ro nhưng có thể bỏ lỡ thời điểm ra quyết định quan trọng do độ trễ trong giao tiếp.

Sự tiến bộ của Manus cũng làm nổi bật những rủi ro vốn có trong sự phát triển của AI, bao gồm vấn đề về quyền riêng tư dữ liệu, thiên lệch thuật toán và các cuộc tấn công đối kháng. Ví dụ, trong bối cảnh y tế, Manus cần truy cập vào dữ liệu nhạy cảm của bệnh nhân; trong các cuộc đàm phán tài chính, có thể liên quan đến thông tin tài chính doanh nghiệp chưa công khai. Trong quá trình tuyển dụng, có thể xảy ra sự phân biệt về lương đối với các nhóm cụ thể; trong việc xem xét hợp đồng pháp lý, việc đánh giá các điều khoản của ngành công nghiệp mới nổi có thể có tỷ lệ sai sót cao. Hơn nữa, tin tặc có thể can thiệp vào sự phán đoán của Manus trong các cuộc đàm phán bằng cách cấy ghép tần số âm thanh cụ thể.

Những thách thức này làm nổi bật một thực tế đáng lo ngại: Hệ thống AI càng thông minh, bề mặt tấn công tiềm năng càng rộng.

Trong lĩnh vực Web3, an ninh luôn là mối quan tâm cốt lõi. Dưới khung "Tam giác không thể" (mạng blockchain không thể đồng thời đạt được an ninh, phi tập trung và khả năng mở rộng) được đề xuất bởi người sáng lập Ethereum Vitalik Buterin, đã phát sinh nhiều công nghệ mã hóa khác nhau:

1. Mô hình an ninh không tin cậy: Dựa trên quan điểm "không tin bất kỳ ai, luôn xác minh", tiến hành xác thực và ủy quyền nghiêm ngặt cho mỗi yêu cầu truy cập.

2. Danh tính phi tập trung (DID): một tiêu chuẩn danh tính số phi tập trung mới, cho phép xác thực danh tính mà không cần cơ quan đăng ký trung ương.

3. Mã hóa đồng nhất (FHE): cho phép thực hiện tính toán trên dữ liệu trong trạng thái mã hóa, bảo vệ quyền riêng tư dữ liệu đồng thời thực hiện giá trị dữ liệu.

Trong số các công nghệ này, FHE được coi là công cụ quan trọng để giải quyết vấn đề an ninh trong thời đại AI. Nó có thể cung cấp bảo vệ ở nhiều cấp độ:

• Mặt dữ liệu: Tất cả thông tin do người dùng nhập (bao gồm đặc điểm sinh học, giọng nói, v.v.) được xử lý trong trạng thái mã hóa, ngay cả hệ thống AI cũng không thể giải mã dữ liệu gốc.

• Mặt thuật toán: Thực hiện "đào tạo mô hình mã hóa" thông qua FHE, đảm bảo quá trình ra quyết định của AI không bị bên ngoài theo dõi.

• Khía cạnh hợp tác: Giao tiếp giữa nhiều tác nhân sử dụng mã hóa ngưỡng, việc một nút bị xâm phạm sẽ không dẫn đến rò rỉ dữ liệu toàn cầu.

Mặc dù công nghệ an ninh Web3 có thể không liên quan trực tiếp đến người dùng thông thường, nhưng chúng có ảnh hưởng sâu rộng đến lợi ích của người dùng. Trong môi trường đầy thách thức này, việc liên tục cải thiện các biện pháp an ninh là vô cùng quan trọng.

Một số dự án đã đạt được tiến bộ trong các lĩnh vực này. Ví dụ, uPort đã ra mắt giải pháp danh tính phi tập trung vào năm 2017, NKN đã phát hành mạng chính dựa trên mô hình không tin cậy vào năm 2019. Trong lĩnh vực FHE, Mind Network đã trở thành dự án đầu tiên ra mắt mạng chính và hợp tác với nhiều tổ chức nổi tiếng.

Khi công nghệ AI ngày càng gần gũi với mức độ trí tuệ con người, các hệ thống phòng thủ phi truyền thống trở nên ngày càng quan trọng. Các công nghệ như FHE không chỉ giải quyết các vấn đề hiện tại mà còn đặt nền tảng cho thời đại AI mạnh mẽ trong tương lai. Trên con đường hướng tới AGI, những công nghệ bảo mật này đã trở thành yếu tố không thể thiếu.