Salah satu pendiri Ethereum Vitalik Buterin berkomentar hari ini tentang pengembangan AI, dengan alasan bahwa pengembangan AI yang salah dapat mengarah pada kehidupan cerdas yang mandiri dan mereplikasi diri, dan arah yang benar adalah menjadi "pelindung mekanis" kecerdasan manusia untuk mencapai peradaban manusia supercerdas yang berkembang. (Sinopsis: V Tuhan takut akan perkembangan AI: manusia harus membangun alat yang nyaman, bukan kehidupan cerdas) (Suplemen latar belakang: Vitalik menegur dunia kripto Mata Uang Kripto telah menyimpang dari kriptografi, keamanan informasi, yang merupakan kegagalan) Minggu ini, CEO Huida Jensen Huang menyebutkan dalam pidato utamanya di CES 2025: "Agen AI memiliki potensi untuk menjadi industri multi-triliun dolar." Memicu antusiasme komunitas enkripsi terhadap agen AI, perhatian AI mencapai hampir 70% untuk pertama kalinya minggu ini, menurut Kaito. Sumber: @sandraaleow V God: Pengembangan AI yang tepat melengkapi kecerdasan manusia dengan "baju besi mekanis" Dan hari ini, salah satu pendiri Ethereum Vitalik Buterin juga mengomentari pengembangan AI: Pengembangan AI yang salah dapat menciptakan kehidupan cerdas yang mandiri dan mereplikasi diri. Dan pengembangan AI yang benar adalah menjadi "baju besi mekanis" pikiran manusia. Jika kita hanya melakukan yang pertama dan mengabaikan yang terakhir, umat manusia berisiko kehilangan kekuatan secara permanen; Tetapi jika kita melakukan yang terakhir, kita dapat berharap untuk mencapai peradaban manusia supercerdas yang makmur. Pada metode mencapai yang terakhir, Vitalik lebih lanjut menjelaskan: Menyaring penilaian manusia adalah salah satu cara untuk mencapai yang terakhir di tingkat kolektif. Banyak alat pembuatan video AI saat ini telah menunjukkan awal dari tren ini: tidak hanya "memasukkan instruksi dan menunggu hasilnya", tetapi proses kontrol dan penyesuaian yang tepat secara real time. Vitalik juga melampirkan tangkapan layar dari sebuah artikel yang ditulisnya November lalu, yang menggambarkan cara untuk memperbaiki penilaian manusia melalui "keuangan informasi" untuk membuat mekanisme penilaian manusia yang kompleks, mahal, dan efisien bekerja dengan cara yang murah, cepat, dan efisien. Dia mengutip gagasan Robin Hanson bahwa "pasar prediksi" dapat digunakan. Melalui mekanisme pasar, kita dapat memperoleh "versi halus" dari mekanisme yang mahal (kata "pemurnian" digunakan di sini, mirip dengan proses distilasi LLM) dengan cara yang kredibel, netral dan cepat dan murah. Seiring waktu, mekanisme pemurnian ini secara luas meniru perilaku mekanisme asli, karena hanya peserta yang membantu mencapai hasil yang benar yang menghasilkan uang, sementara yang lain kehilangan uang. Dari apa yang dia bagikan, dia mungkin ingin mengeksplorasi "bagaimana nilai-nilai dan kecerdasan manusia dapat diintegrasikan secara efisien ke dalam pengambilan keputusan sistem AI" dan menekankan pentingnya insentif ekonomi dalam hal ini. AI yang dilakukan salah adalah membuat bentuk-bentuk baru kehidupan cerdas yang mereplikasi diri sendiri AI dilakukan dengan benar adalah setelan mecha untuk pikiran manusia Jika kita melakukan yang pertama tanpa yang terakhir, kita berisiko menjadi manusia permanen ketidakberdayaan. Jika kita melakukan yang terakhir, peradaban manusia pengawas yang berkembang — vitalik.eth (@VitalikButerin) Januari 10, 2025 Haruskah agen AI dibangun? Di sisi lain, sebagai tanggapan atas pertanyaan netizen tentang "haruskah pilihan desain adalah AI berbasis agen atau inti dari peningkatan kemampuan manusia?" Ketika ditanya, Vitalik berkata: "Agen" adalah kata yang menarik. Kadang-kadang mengacu pada "AI yang dapat berjalan sendiri dan membuat rencana kompleks selama berhari-hari tanpa campur tangan manusia," tetapi lebih sering hanya mengacu pada "chatbots menggantikan GUI (antarmuka pengguna grafis) sebagai sarana interaksi utama untuk aplikasi." Vitalik dengan blak-blakan mengatakan yang terakhir itu hebat. Ini bertepatan dengan artikel yang dia terbitkan Desember lalu tentang Dompet yang ideal. Dalam artikel itu, ia mengeksplorasi bagaimana kemajuan dalam AI dapat menyebabkan revolusi besar dalam cara Anda berinteraksi, dan menunjukkan bahwa di masa depan, adalah mungkin untuk beralih dari operasi klik-dan-klik tradisional dan model input ke model baru "katakan apa yang Anda butuhkan, dan robot akan melakukannya untuk Anda." Dia menyebutkan bahwa melalui input bahasa alami, pelacakan mata, dan bahkan lebih banyak antarmuka otak-komputer langsung (BCI) di masa depan, serta pengetahuan mendalam tentang riwayat pengguna (seperti log SMS, asalkan semua data hanya diproses secara lokal), "Dompet" dapat lebih intuitif memahami maksud pengguna. AI dapat menerjemahkan niat ini ke dalam "rencana aksi" yang konkret, serangkaian tindakan on-chain dan off-chain untuk memenuhi kebutuhan pengguna. Akibatnya, kebutuhan akan antarmuka pengguna pihak ketiga akan sangat berkurang. Jika pengguna perlu berinteraksi dengan aplikasi pihak ketiga atau pengguna lain, AI harus mulai dengan mempertimbangkan minat pengguna, mendeteksi potensi risiko terlebih dahulu, dan memberikan solusi untuk disarankan. Idealnya, Vitalik menambahkan, AI ini harus dikembangkan oleh tim yang berbeda, menciptakan ekosistem yang beragam dan terbuka yang memenuhi preferensi dan kebutuhan yang berbeda. Pada akhir Desember, Vitalik mengusulkan definisinya tentang AGI ketika membahas AGI (artificial general intelligence) dan ASI (artificial superintelligence): AGI adalah kecerdasan buatan yang cukup kuat sehingga jika suatu saat semua manusia tiba-tiba menghilang dan AI ini diunggah ke dalam cangkang robot, ia dapat secara mandiri mempertahankan operasi peradaban. Dia juga mengakui bahwa ini adalah definisi yang sangat sulit untuk diukur, tetapi ini adalah perbedaan intuitif potensial antara "AI yang biasa kita gunakan" dan "AGI" di benak banyak orang. Evolusi dari alat yang terus-menerus bergantung pada input manusia ke bentuk kehidupan mandiri adalah inti dari perbedaan ini. Adapun ASI, Vitalik melihatnya sebagai konsep tingkat yang lebih tinggi: standar ASI terpenuhi ketika partisipasi manusia (human-in-the-loop) tidak lagi membawa nilai apa pun ke sistem. Sebagai contoh, ia menunjukkan, AI dalam catur hanya mencapai tingkat ini dalam dekade terakhir. Dia terus terang mengatakan bahwa ASI membuatnya takut, dan bahkan AGI seperti yang dia definisikan sendiri, karena teknologi ini dapat menimbulkan risiko signifikan manusia kehilangan kendali. Akibatnya, Vitalik lebih memilih untuk fokus pada pengembangan alat yang menambah kecerdasan manusia daripada membangun beberapa bentuk kehidupan supercerdas. Posisinya konsisten dengan pandangan yang dia buat hari ini: pengembangan AI yang tepat harus menempatkan "baju besi mekanis" pada kecerdasan manusia, bukan menciptakan bentuk kehidupan cerdas independen yang baru. AGI: Mengacu pada kecerdasan buatan dengan kecerdasan mirip manusia, mampu melakukan tugas di berbagai bidang, tidak terbatas pada aplikasi tertentu. ASI: Mengacu pada kecerdasan buatan yang melampaui semua tingkat kecerdasan manusia, tidak hanya memiliki kemampuan unggul di bidang tertentu, tetapi juga melampaui manusia dalam setiap aspek secara komprehensif. Cerita terkait Vitalik: Deepfake di Era AI...
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
1 Suka
Hadiah
1
1
Bagikan
Komentar
0/400
Distanger
· 01-10 08:48
Tingkat kecerdasan beberapa AI sudah sebanding dengan manusia. Dan saya tidak akan terkejut jika entitas intelektual independen dan self-replicating sudah muncul.
Vitalik Buterin: perkembangan AI yang benar adalah menjadi 'zirah mekanik' dari pemikiran manusia untuk mencapai peradaban superintelejensia
Salah satu pendiri Ethereum Vitalik Buterin berkomentar hari ini tentang pengembangan AI, dengan alasan bahwa pengembangan AI yang salah dapat mengarah pada kehidupan cerdas yang mandiri dan mereplikasi diri, dan arah yang benar adalah menjadi "pelindung mekanis" kecerdasan manusia untuk mencapai peradaban manusia supercerdas yang berkembang. (Sinopsis: V Tuhan takut akan perkembangan AI: manusia harus membangun alat yang nyaman, bukan kehidupan cerdas) (Suplemen latar belakang: Vitalik menegur dunia kripto Mata Uang Kripto telah menyimpang dari kriptografi, keamanan informasi, yang merupakan kegagalan) Minggu ini, CEO Huida Jensen Huang menyebutkan dalam pidato utamanya di CES 2025: "Agen AI memiliki potensi untuk menjadi industri multi-triliun dolar." Memicu antusiasme komunitas enkripsi terhadap agen AI, perhatian AI mencapai hampir 70% untuk pertama kalinya minggu ini, menurut Kaito. Sumber: @sandraaleow V God: Pengembangan AI yang tepat melengkapi kecerdasan manusia dengan "baju besi mekanis" Dan hari ini, salah satu pendiri Ethereum Vitalik Buterin juga mengomentari pengembangan AI: Pengembangan AI yang salah dapat menciptakan kehidupan cerdas yang mandiri dan mereplikasi diri. Dan pengembangan AI yang benar adalah menjadi "baju besi mekanis" pikiran manusia. Jika kita hanya melakukan yang pertama dan mengabaikan yang terakhir, umat manusia berisiko kehilangan kekuatan secara permanen; Tetapi jika kita melakukan yang terakhir, kita dapat berharap untuk mencapai peradaban manusia supercerdas yang makmur. Pada metode mencapai yang terakhir, Vitalik lebih lanjut menjelaskan: Menyaring penilaian manusia adalah salah satu cara untuk mencapai yang terakhir di tingkat kolektif. Banyak alat pembuatan video AI saat ini telah menunjukkan awal dari tren ini: tidak hanya "memasukkan instruksi dan menunggu hasilnya", tetapi proses kontrol dan penyesuaian yang tepat secara real time. Vitalik juga melampirkan tangkapan layar dari sebuah artikel yang ditulisnya November lalu, yang menggambarkan cara untuk memperbaiki penilaian manusia melalui "keuangan informasi" untuk membuat mekanisme penilaian manusia yang kompleks, mahal, dan efisien bekerja dengan cara yang murah, cepat, dan efisien. Dia mengutip gagasan Robin Hanson bahwa "pasar prediksi" dapat digunakan. Melalui mekanisme pasar, kita dapat memperoleh "versi halus" dari mekanisme yang mahal (kata "pemurnian" digunakan di sini, mirip dengan proses distilasi LLM) dengan cara yang kredibel, netral dan cepat dan murah. Seiring waktu, mekanisme pemurnian ini secara luas meniru perilaku mekanisme asli, karena hanya peserta yang membantu mencapai hasil yang benar yang menghasilkan uang, sementara yang lain kehilangan uang. Dari apa yang dia bagikan, dia mungkin ingin mengeksplorasi "bagaimana nilai-nilai dan kecerdasan manusia dapat diintegrasikan secara efisien ke dalam pengambilan keputusan sistem AI" dan menekankan pentingnya insentif ekonomi dalam hal ini. AI yang dilakukan salah adalah membuat bentuk-bentuk baru kehidupan cerdas yang mereplikasi diri sendiri AI dilakukan dengan benar adalah setelan mecha untuk pikiran manusia Jika kita melakukan yang pertama tanpa yang terakhir, kita berisiko menjadi manusia permanen ketidakberdayaan. Jika kita melakukan yang terakhir, peradaban manusia pengawas yang berkembang — vitalik.eth (@VitalikButerin) Januari 10, 2025 Haruskah agen AI dibangun? Di sisi lain, sebagai tanggapan atas pertanyaan netizen tentang "haruskah pilihan desain adalah AI berbasis agen atau inti dari peningkatan kemampuan manusia?" Ketika ditanya, Vitalik berkata: "Agen" adalah kata yang menarik. Kadang-kadang mengacu pada "AI yang dapat berjalan sendiri dan membuat rencana kompleks selama berhari-hari tanpa campur tangan manusia," tetapi lebih sering hanya mengacu pada "chatbots menggantikan GUI (antarmuka pengguna grafis) sebagai sarana interaksi utama untuk aplikasi." Vitalik dengan blak-blakan mengatakan yang terakhir itu hebat. Ini bertepatan dengan artikel yang dia terbitkan Desember lalu tentang Dompet yang ideal. Dalam artikel itu, ia mengeksplorasi bagaimana kemajuan dalam AI dapat menyebabkan revolusi besar dalam cara Anda berinteraksi, dan menunjukkan bahwa di masa depan, adalah mungkin untuk beralih dari operasi klik-dan-klik tradisional dan model input ke model baru "katakan apa yang Anda butuhkan, dan robot akan melakukannya untuk Anda." Dia menyebutkan bahwa melalui input bahasa alami, pelacakan mata, dan bahkan lebih banyak antarmuka otak-komputer langsung (BCI) di masa depan, serta pengetahuan mendalam tentang riwayat pengguna (seperti log SMS, asalkan semua data hanya diproses secara lokal), "Dompet" dapat lebih intuitif memahami maksud pengguna. AI dapat menerjemahkan niat ini ke dalam "rencana aksi" yang konkret, serangkaian tindakan on-chain dan off-chain untuk memenuhi kebutuhan pengguna. Akibatnya, kebutuhan akan antarmuka pengguna pihak ketiga akan sangat berkurang. Jika pengguna perlu berinteraksi dengan aplikasi pihak ketiga atau pengguna lain, AI harus mulai dengan mempertimbangkan minat pengguna, mendeteksi potensi risiko terlebih dahulu, dan memberikan solusi untuk disarankan. Idealnya, Vitalik menambahkan, AI ini harus dikembangkan oleh tim yang berbeda, menciptakan ekosistem yang beragam dan terbuka yang memenuhi preferensi dan kebutuhan yang berbeda. Pada akhir Desember, Vitalik mengusulkan definisinya tentang AGI ketika membahas AGI (artificial general intelligence) dan ASI (artificial superintelligence): AGI adalah kecerdasan buatan yang cukup kuat sehingga jika suatu saat semua manusia tiba-tiba menghilang dan AI ini diunggah ke dalam cangkang robot, ia dapat secara mandiri mempertahankan operasi peradaban. Dia juga mengakui bahwa ini adalah definisi yang sangat sulit untuk diukur, tetapi ini adalah perbedaan intuitif potensial antara "AI yang biasa kita gunakan" dan "AGI" di benak banyak orang. Evolusi dari alat yang terus-menerus bergantung pada input manusia ke bentuk kehidupan mandiri adalah inti dari perbedaan ini. Adapun ASI, Vitalik melihatnya sebagai konsep tingkat yang lebih tinggi: standar ASI terpenuhi ketika partisipasi manusia (human-in-the-loop) tidak lagi membawa nilai apa pun ke sistem. Sebagai contoh, ia menunjukkan, AI dalam catur hanya mencapai tingkat ini dalam dekade terakhir. Dia terus terang mengatakan bahwa ASI membuatnya takut, dan bahkan AGI seperti yang dia definisikan sendiri, karena teknologi ini dapat menimbulkan risiko signifikan manusia kehilangan kendali. Akibatnya, Vitalik lebih memilih untuk fokus pada pengembangan alat yang menambah kecerdasan manusia daripada membangun beberapa bentuk kehidupan supercerdas. Posisinya konsisten dengan pandangan yang dia buat hari ini: pengembangan AI yang tepat harus menempatkan "baju besi mekanis" pada kecerdasan manusia, bukan menciptakan bentuk kehidupan cerdas independen yang baru. AGI: Mengacu pada kecerdasan buatan dengan kecerdasan mirip manusia, mampu melakukan tugas di berbagai bidang, tidak terbatas pada aplikasi tertentu. ASI: Mengacu pada kecerdasan buatan yang melampaui semua tingkat kecerdasan manusia, tidak hanya memiliki kemampuan unggul di bidang tertentu, tetapi juga melampaui manusia dalam setiap aspek secara komprehensif. Cerita terkait Vitalik: Deepfake di Era AI...