Đồng sáng lập Ethereum Vitalik Buterin hôm nay nhận xét về sự phát triển của AI, cho rằng sự phát triển AI sai lầm có thể dẫn đến cuộc sống thông minh độc lập và tự sao chép, và hướng đi đúng đắn là trở thành "áo giáp cơ học" của trí thông minh con người để đạt được một nền văn minh siêu thông minh của con người thịnh vượng. (Tóm tắt: V God sợ sự phát triển của AI: con người nên xây dựng các công cụ tiện lợi, không phải cuộc sống thông minh) (Bối cảnh được thêm vào: Vitalik mắng thế giới tiû n điện tửTình trạng: Tiền điện tử đã đi chệch khỏi lĩnh vực mật mã và bảo mật thông tin, đó là một thất bại) Tuần này, Giám đốc điều hành Huida Jensen Huang đã đề cập trong bài phát biểu quan trọng của mình tại CES 2025: "Các tác nhân AI có tiềm năng trở thành một ngành công nghiệp trị giá hàng nghìn tỷ đô la". Thúc đẩy sự nhiệt tình của cộng đồng mã hóa đối với các tác nhân AI, sự chú ý của AI lần đầu tiên đạt gần 70% trong tuần này, theo Kaito. Nguồn: @sandraaleow V God: Sự phát triển AI đúng đắn trang bị cho trí thông minh con người "áo giáp cơ học" Và hôm nay, đồng sáng lập Ethereum Vitalik Buterin cũng nhận xét về sự phát triển của AI: Sự phát triển AI sai lầm có thể tạo ra sự sống thông minh độc lập và tự sao chép. Và sự phát triển AI đúng đắn là trở thành "áo giáp cơ học" của tâm trí con người. Nếu chúng ta chỉ làm cái trước và bỏ qua cái sau, nhân loại có nguy cơ mất quyền lực vĩnh viễn; Nhưng nếu chúng ta làm điều thứ hai, chúng ta có thể hy vọng đạt được một nền văn minh nhân loại siêu thông minh thịnh vượng. Về phương pháp đạt được điều thứ hai, Vitalik giải thích thêm: Chắt lọc phán đoán của con người là một cách để đạt được cái sau ở cấp độ tập thể. Nhiều công cụ tạo video AI ngày nay đã chứng minh sự khởi đầu của xu hướng này: không chỉ đơn giản là "nhập hướng dẫn và chờ kết quả", mà là quá trình kiểm soát và điều chỉnh chính xác trong thời gian thực. Vitalik cũng đính kèm ảnh chụp màn hình của một bài báo mà ông đã viết vào tháng 11 năm ngoái, minh họa một cách để tinh chỉnh phán đoán của con người thông qua "tài chính thông tin" để làm cho các cơ chế phán đoán phức tạp, tốn kém và hiệu quả của con người hoạt động theo cách chi phí thấp, nhanh chóng và hiệu quả. Ông trích dẫn ý tưởng của Robin Hanson rằng "thị trường dự đoán" có thể được sử dụng. Thông qua các cơ chế thị trường, chúng ta có thể có được một "phiên bản tinh chế" của một cơ chế đắt tiền khác (từ "tinh chế" được sử dụng ở đây, tương tự như quá trình chưng cất LLM) một cách đáng tin cậy, trung lập và nhanh chóng và rẻ tiền. Theo thời gian, cơ chế tinh chế này bắt chước rộng rãi hành vi của cơ chế ban đầu, bởi vì chỉ những người tham gia giúp đạt được kết quả đúng mới kiếm được tiền, trong khi những người khác mất tiền. Từ những gì ông chia sẻ, ông có thể muốn khám phá "làm thế nào các giá trị và trí thông minh của con người có thể được tích hợp hiệu quả vào việc ra quyết định của các hệ thống AI" và nhấn mạnh tầm quan trọng của các ưu đãi kinh tế trong việc này. AI làm sai là tạo ra các hình thức mới của cuộc sống thông minh tự sao chép độc lập AI được thực hiện đúng là mecha phù hợp với tâm trí con người Nếu chúng ta làm cái trước mà không có cái sau, chúng ta có nguy cơ là con người vĩnh viễn mất quyền lực. Nếu chúng ta làm điều thứ hai, nền văn minh nhân loại siêu phàm hưng thịnh - vitalik.eth (@VitalikButerin) Tháng Một 10, 2025 Có nên xây dựng các tác nhân AI không? Mặt khác, để trả lời câu hỏi của cư dân mạng về việc "lựa chọn thiết kế nên là AI dựa trên tác nhân hay cốt lõi để cải thiện khả năng của con người?" Khi được hỏi, Vitalik nói: "Đặc vụ" là một từ thú vị. Đôi khi nó đề cập đến "AI có thể tự chạy và lập kế hoạch phức tạp trong nhiều ngày mà không cần sự can thiệp của con người", nhưng thường thì nó chỉ đơn giản đề cập đến "chatbot thay thế GUI (giao diện người dùng đồ họa) làm phương tiện tương tác chính cho các ứng dụng". Vitalik thẳng thừng nói rằng cái sau rất tuyệt. Điều này trùng hợp với một bài báo ông xuất bản vào tháng 12 năm ngoái về lý tưởng của tiền. Trong bài viết đó, ông khám phá những tiến bộ trong AI có thể dẫn đến một cuộc cách mạng sâu sắc trong cách bạn tương tác và chỉ ra rằng trong tương lai, có thể chuyển từ mô hình đầu vào và hoạt động nhấp chuột truyền thống sang mô hình mới "nói những gì bạn cần và robot sẽ làm điều đó cho bạn". Ông đề cập rằng thông qua đầu vào ngôn ngữ tự nhiên, theo dõi mắt và thậm chí giao diện não-máy tính trực tiếp hơn (BCI) trong tương lai, cũng như kiến thức chuyên sâu về lịch sử người dùng (như nhật ký SMS, miễn là tất cả dữ liệu chỉ được xử lý cục bộ), "Ví tiền" có thể hiểu trực quan hơn ý định của người dùng. AI có thể chuyển những ý định này thành "kế hoạch hành động" cụ thể, một loạt các hành động trên chuỗi và ngoài chuỗi để đáp ứng nhu cầu của người dùng. Do đó, nhu cầu về giao diện người dùng của bên thứ ba sẽ giảm đi rất nhiều. Nếu người dùng cần tương tác với các ứng dụng của bên thứ ba hoặc người dùng khác, AI nên bắt đầu với lợi ích của người dùng, phát hiện trước các rủi ro tiềm ẩn và đưa ra các giải pháp để đề xuất. Lý tưởng nhất, Vitalik cho biết thêm, những AI này nên được phát triển bởi các nhóm khác nhau, tạo ra một hệ sinh thái đa dạng và cởi mở phục vụ cho các sở thích và nhu cầu khác nhau. Vào cuối tháng 12, Vitalik đã đề xuất định nghĩa của mình về AGI khi thảo luận về AGI (trí tuệ tổng hợp nhân tạo) và ASI (siêu trí tuệ nhân tạo): AGI là một trí tuệ nhân tạo đủ mạnh để nếu một ngày nào đó tất cả con người đột nhiên biến mất và AI này được tải lên vỏ robot, nó có thể độc lập duy trì hoạt động của nền văn minh. Ông cũng thừa nhận rằng đây là một định nghĩa cực kỳ khó định lượng, nhưng đây là sự khác biệt trực quan tiềm năng giữa "AI mà chúng ta đã quen" và "AGI" trong tâm trí của nhiều người. Sự tiến hóa từ một công cụ liên tục dựa vào đầu vào của con người sang một dạng sống tự cung tự cấp là trung tâm của sự khác biệt này. Đối với ASI, Vitalik coi đó là một khái niệm cấp cao hơn: tiêu chuẩn của ASI được đáp ứng khi sự tham gia của con người (con người trong vòng lặp) không còn mang lại bất kỳ giá trị nào cho hệ thống. Ví dụ, ông chỉ ra, AI trong cờ vua chỉ đạt đến cấp độ này trong thập kỷ qua. Anh ta thẳng thắn nói rằng ASI khiến anh ta sợ hãi, và thậm chí cả AGI khi anh ta tự định nghĩa nó, bởi vì những công nghệ này có thể gây ra nguy cơ đáng kể khiến con người mất kiểm soát. Do đó, Vitalik thích tập trung vào việc phát triển các công cụ tăng cường trí thông minh của con người hơn là xây dựng một số dạng sống siêu thông minh. Quan điểm của ông phù hợp với quan điểm mà ông đưa ra ngày nay: sự phát triển AI đúng đắn nên đặt "áo giáp cơ học" lên trí thông minh của con người, chứ không phải tạo ra các dạng sống thông minh độc lập mới. AGI: Đề cập đến trí tuệ nhân tạo với trí thông minh giống con người, có khả năng thực hiện các tác vụ trong nhiều lĩnh vực khác nhau, không giới hạn ở các ứng dụng cụ thể. ASI: Đề cập đến trí tuệ nhân tạo vượt qua tất cả các cấp độ trí thông minh của con người, không chỉ có khả năng vượt trội trong các lĩnh vực cụ thể, mà còn vượt qua con người về mọi mặt một cách toàn diện. Tin liên quan Vitalik: Deepfake trong thời đại AI...
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
1 thích
Phần thưởng
1
1
Chia sẻ
Bình luận
0/400
Distanger
· 01-10 08:48
Một số trí tuệ của trí tuệ nhân tạo đã sánh ngang với con người. Và tôi sẽ không ngạc nhiên nếu những sinh vật thông minh độc lập và tự tái sản xuất đã xuất hiện.
Vitalik Buterin: Sự phát triển AI đúng đắn là trở thành 'giáp máy' của suy nghĩ con người để thực hiện văn minh siêu thông minh
Đồng sáng lập Ethereum Vitalik Buterin hôm nay nhận xét về sự phát triển của AI, cho rằng sự phát triển AI sai lầm có thể dẫn đến cuộc sống thông minh độc lập và tự sao chép, và hướng đi đúng đắn là trở thành "áo giáp cơ học" của trí thông minh con người để đạt được một nền văn minh siêu thông minh của con người thịnh vượng. (Tóm tắt: V God sợ sự phát triển của AI: con người nên xây dựng các công cụ tiện lợi, không phải cuộc sống thông minh) (Bối cảnh được thêm vào: Vitalik mắng thế giới tiû n điện tửTình trạng: Tiền điện tử đã đi chệch khỏi lĩnh vực mật mã và bảo mật thông tin, đó là một thất bại) Tuần này, Giám đốc điều hành Huida Jensen Huang đã đề cập trong bài phát biểu quan trọng của mình tại CES 2025: "Các tác nhân AI có tiềm năng trở thành một ngành công nghiệp trị giá hàng nghìn tỷ đô la". Thúc đẩy sự nhiệt tình của cộng đồng mã hóa đối với các tác nhân AI, sự chú ý của AI lần đầu tiên đạt gần 70% trong tuần này, theo Kaito. Nguồn: @sandraaleow V God: Sự phát triển AI đúng đắn trang bị cho trí thông minh con người "áo giáp cơ học" Và hôm nay, đồng sáng lập Ethereum Vitalik Buterin cũng nhận xét về sự phát triển của AI: Sự phát triển AI sai lầm có thể tạo ra sự sống thông minh độc lập và tự sao chép. Và sự phát triển AI đúng đắn là trở thành "áo giáp cơ học" của tâm trí con người. Nếu chúng ta chỉ làm cái trước và bỏ qua cái sau, nhân loại có nguy cơ mất quyền lực vĩnh viễn; Nhưng nếu chúng ta làm điều thứ hai, chúng ta có thể hy vọng đạt được một nền văn minh nhân loại siêu thông minh thịnh vượng. Về phương pháp đạt được điều thứ hai, Vitalik giải thích thêm: Chắt lọc phán đoán của con người là một cách để đạt được cái sau ở cấp độ tập thể. Nhiều công cụ tạo video AI ngày nay đã chứng minh sự khởi đầu của xu hướng này: không chỉ đơn giản là "nhập hướng dẫn và chờ kết quả", mà là quá trình kiểm soát và điều chỉnh chính xác trong thời gian thực. Vitalik cũng đính kèm ảnh chụp màn hình của một bài báo mà ông đã viết vào tháng 11 năm ngoái, minh họa một cách để tinh chỉnh phán đoán của con người thông qua "tài chính thông tin" để làm cho các cơ chế phán đoán phức tạp, tốn kém và hiệu quả của con người hoạt động theo cách chi phí thấp, nhanh chóng và hiệu quả. Ông trích dẫn ý tưởng của Robin Hanson rằng "thị trường dự đoán" có thể được sử dụng. Thông qua các cơ chế thị trường, chúng ta có thể có được một "phiên bản tinh chế" của một cơ chế đắt tiền khác (từ "tinh chế" được sử dụng ở đây, tương tự như quá trình chưng cất LLM) một cách đáng tin cậy, trung lập và nhanh chóng và rẻ tiền. Theo thời gian, cơ chế tinh chế này bắt chước rộng rãi hành vi của cơ chế ban đầu, bởi vì chỉ những người tham gia giúp đạt được kết quả đúng mới kiếm được tiền, trong khi những người khác mất tiền. Từ những gì ông chia sẻ, ông có thể muốn khám phá "làm thế nào các giá trị và trí thông minh của con người có thể được tích hợp hiệu quả vào việc ra quyết định của các hệ thống AI" và nhấn mạnh tầm quan trọng của các ưu đãi kinh tế trong việc này. AI làm sai là tạo ra các hình thức mới của cuộc sống thông minh tự sao chép độc lập AI được thực hiện đúng là mecha phù hợp với tâm trí con người Nếu chúng ta làm cái trước mà không có cái sau, chúng ta có nguy cơ là con người vĩnh viễn mất quyền lực. Nếu chúng ta làm điều thứ hai, nền văn minh nhân loại siêu phàm hưng thịnh - vitalik.eth (@VitalikButerin) Tháng Một 10, 2025 Có nên xây dựng các tác nhân AI không? Mặt khác, để trả lời câu hỏi của cư dân mạng về việc "lựa chọn thiết kế nên là AI dựa trên tác nhân hay cốt lõi để cải thiện khả năng của con người?" Khi được hỏi, Vitalik nói: "Đặc vụ" là một từ thú vị. Đôi khi nó đề cập đến "AI có thể tự chạy và lập kế hoạch phức tạp trong nhiều ngày mà không cần sự can thiệp của con người", nhưng thường thì nó chỉ đơn giản đề cập đến "chatbot thay thế GUI (giao diện người dùng đồ họa) làm phương tiện tương tác chính cho các ứng dụng". Vitalik thẳng thừng nói rằng cái sau rất tuyệt. Điều này trùng hợp với một bài báo ông xuất bản vào tháng 12 năm ngoái về lý tưởng của tiền. Trong bài viết đó, ông khám phá những tiến bộ trong AI có thể dẫn đến một cuộc cách mạng sâu sắc trong cách bạn tương tác và chỉ ra rằng trong tương lai, có thể chuyển từ mô hình đầu vào và hoạt động nhấp chuột truyền thống sang mô hình mới "nói những gì bạn cần và robot sẽ làm điều đó cho bạn". Ông đề cập rằng thông qua đầu vào ngôn ngữ tự nhiên, theo dõi mắt và thậm chí giao diện não-máy tính trực tiếp hơn (BCI) trong tương lai, cũng như kiến thức chuyên sâu về lịch sử người dùng (như nhật ký SMS, miễn là tất cả dữ liệu chỉ được xử lý cục bộ), "Ví tiền" có thể hiểu trực quan hơn ý định của người dùng. AI có thể chuyển những ý định này thành "kế hoạch hành động" cụ thể, một loạt các hành động trên chuỗi và ngoài chuỗi để đáp ứng nhu cầu của người dùng. Do đó, nhu cầu về giao diện người dùng của bên thứ ba sẽ giảm đi rất nhiều. Nếu người dùng cần tương tác với các ứng dụng của bên thứ ba hoặc người dùng khác, AI nên bắt đầu với lợi ích của người dùng, phát hiện trước các rủi ro tiềm ẩn và đưa ra các giải pháp để đề xuất. Lý tưởng nhất, Vitalik cho biết thêm, những AI này nên được phát triển bởi các nhóm khác nhau, tạo ra một hệ sinh thái đa dạng và cởi mở phục vụ cho các sở thích và nhu cầu khác nhau. Vào cuối tháng 12, Vitalik đã đề xuất định nghĩa của mình về AGI khi thảo luận về AGI (trí tuệ tổng hợp nhân tạo) và ASI (siêu trí tuệ nhân tạo): AGI là một trí tuệ nhân tạo đủ mạnh để nếu một ngày nào đó tất cả con người đột nhiên biến mất và AI này được tải lên vỏ robot, nó có thể độc lập duy trì hoạt động của nền văn minh. Ông cũng thừa nhận rằng đây là một định nghĩa cực kỳ khó định lượng, nhưng đây là sự khác biệt trực quan tiềm năng giữa "AI mà chúng ta đã quen" và "AGI" trong tâm trí của nhiều người. Sự tiến hóa từ một công cụ liên tục dựa vào đầu vào của con người sang một dạng sống tự cung tự cấp là trung tâm của sự khác biệt này. Đối với ASI, Vitalik coi đó là một khái niệm cấp cao hơn: tiêu chuẩn của ASI được đáp ứng khi sự tham gia của con người (con người trong vòng lặp) không còn mang lại bất kỳ giá trị nào cho hệ thống. Ví dụ, ông chỉ ra, AI trong cờ vua chỉ đạt đến cấp độ này trong thập kỷ qua. Anh ta thẳng thắn nói rằng ASI khiến anh ta sợ hãi, và thậm chí cả AGI khi anh ta tự định nghĩa nó, bởi vì những công nghệ này có thể gây ra nguy cơ đáng kể khiến con người mất kiểm soát. Do đó, Vitalik thích tập trung vào việc phát triển các công cụ tăng cường trí thông minh của con người hơn là xây dựng một số dạng sống siêu thông minh. Quan điểm của ông phù hợp với quan điểm mà ông đưa ra ngày nay: sự phát triển AI đúng đắn nên đặt "áo giáp cơ học" lên trí thông minh của con người, chứ không phải tạo ra các dạng sống thông minh độc lập mới. AGI: Đề cập đến trí tuệ nhân tạo với trí thông minh giống con người, có khả năng thực hiện các tác vụ trong nhiều lĩnh vực khác nhau, không giới hạn ở các ứng dụng cụ thể. ASI: Đề cập đến trí tuệ nhân tạo vượt qua tất cả các cấp độ trí thông minh của con người, không chỉ có khả năng vượt trội trong các lĩnh vực cụ thể, mà còn vượt qua con người về mọi mặt một cách toàn diện. Tin liên quan Vitalik: Deepfake trong thời đại AI...