Співзасновник Ethereum Віталік Бутерін прокоментував сьогодні розвиток штучного інтелекту, стверджуючи, що неправильний розвиток ШІ може призвести до незалежного та самовідтворюваного розумного життя, і правильний напрямок – стати «механічною бронею» людського інтелекту для досягнення процвітаючої надрозумної людської цивілізації. (Синопсис: V Бог боїться розвитку штучного інтелекту: люди повинні створювати зручні інструменти, а не розумне життя) (Довідкове доповнення: Віталік вилаяв криптосвіт Статус: Криптовалюта відхилилася від сфери криптографії та інформаційної безпеки, що є провалом) Цього тижня генеральний директор Huida Дженсен Хуанг у своїй програмній промові на CES 2025 зазначив: «Агенти штучного інтелекту мають потенціал стати багатотрильйонною індустрією». Згідно з даними Kaito, підігріваючи ентузіазм спільноти шифрування щодо агентів штучного інтелекту, цього тижня увага до ШІ вперше досягла майже 70%. Джерело: @sandraaleow V God: Правильна розробка ШІ оснащує людський інтелект "механічною бронею" А сьогодні співзасновник Ethereum Віталік Бутерін також прокоментував розробку ШІ: Неправильна розробка ШІ може створити незалежне та самовідтворюване розумне життя. А правильний розвиток ШІ має стати «механічною бронею» людського розуму. Якщо ми будемо робити тільки перше і ігнорувати друге, людство ризикує назавжди втратити владу; Але якщо ми зробимо останнє, то зможемо сподіватися на процвітання надрозумної людської цивілізації. Щодо методу досягнення останнього, Віталік далі пояснює: Дистиляція людського судження є одним із способів досягнення останнього на колективному рівні. Багато сучасних інструментів для генерації відео зі штучним інтелектом продемонстрували початок цієї тенденції: не просто «введення інструкцій і очікування результату», а процес точного контролю та налаштування в режимі реального часу. Віталік також прикріпив скріншот статті, яку він написав у листопаді минулого року, ілюструючи спосіб удосконалення людських суджень за допомогою «інформаційних фінансів», щоб змусити складні, дорогі та ефективні механізми людських суджень працювати недорого, швидко та ефективно. Він наводить ідею Робіна Хенсона про те, що можна використовувати «ринки передбачень». За допомогою ринкових механізмів ми можемо отримати «рафіновану версію» дорогого механізму (тут використовується слово «рафінування», подібно до процесу дистиляції LLM) надійним, нейтральним, швидким і дешевим способом. З плином часу цей механізм доопрацювання в цілому імітує поведінку вихідного механізму, тому що заробляють тільки ті учасники, які допомагають досягти потрібного результату, а інші втрачають гроші. З того, чим він поділився, він, можливо, захоче дослідити, «як людські цінності та інтелект можуть бути ефективно інтегровані в процес прийняття рішень системами штучного інтелекту», і наголосити на важливості економічних стимулів у цьому. Штучний інтелект, зроблений неправильно, створює нові форми незалежного самовідтворюваного розумного життя Штучний інтелект, зроблений правильно, є хутром, підходить для людського розуму Якщо ми зробимо перше без другого, ми ризикуємо постійним людиною безправ'я. Якщо ми зробимо останнє, то розквітне суперінтелігентна людська цивілізація — vitalik.eth (@VitalikButerin) January 10, 2025 Чи варто створювати агентів штучного інтелекту? З іншого боку, у відповідь на запитання користувачів мережі про те, «чи має бути вибір дизайну на основі агентного штучного інтелекту чи ядро покращення людських можливостей?» На запитання Віталік відповів: "Агенти" – цікаве слово. Іноді йдеться про «штучний інтелект, який може працювати сам і складати складні плани протягом кількох днів без втручання людини», але частіше це просто стосується «чат-ботів, які замінюють графічні інтерфейси користувача як основний засіб взаємодії для додатків». Віталік прямо каже, що останнє – це чудово. Це збігається зі статтею, яку він опублікував у грудні минулого року про ідеальний Гаманець. У цій статті він досліджує, як прогрес у галузі штучного інтелекту може призвести до глибокої революції в способі взаємодії, і зазначає, що в майбутньому можна перейти від традиційної моделі операції та введення «клацни та клацни» до нової моделі «скажи, що тобі потрібно, і робот зробить це за тебе». Він зазначив, що завдяки введенню природною мовою, відстеженню очей і ще більш прямому інтерфейсу мозок-комп'ютер (BCI) в майбутньому, а також глибоким знанням історії користувача (наприклад, журналів SMS, за умови, що всі дані обробляються тільки локально), «Гаманець» може більш інтуїтивно зрозуміти наміри користувача. Штучний інтелект може втілити ці наміри в конкретні «плани дій», серію блокчейні та блокчейном для задоволення потреб користувачів. В результаті потреба в сторонніх користувальницьких інтерфейсах значно скоротиться. Якщо користувачам потрібно взаємодіяти зі сторонніми додатками або іншими користувачами, штучний інтелект повинен починати з урахуванням інтересів користувача, заздалегідь виявляти потенційні ризики та пропонувати рішення, які можна запропонувати. В ідеалі, додає Віталік, ці штучні інтелекти повинні розроблятися різними командами, створюючи різноманітну та відкриту екосистему, яка задовольняє різні вподобання та потреби. В кінці грудня Віталік запропонував своє визначення AGI при обговоренні AGI (штучний загальний інтелект) і ASI (штучний суперінтелект): AGI - це штучний інтелект, досить потужний, щоб, якщо одного разу всі люди раптом зникнуть і цей ШІ буде завантажений в оболонку робота, він зможе самостійно підтримувати роботу цивілізації. Він також визнає, що це визначення надзвичайно складне для кількісної оцінки, але це потенційна інтуїтивна різниця між «ШІ, до якого ми звикли» та «AGI» у свідомості багатьох людей. Еволюція від інструменту, який постійно залежить від людського внеску, до самодостатньої форми життя лежить в основі цієї відмінності. Що стосується ASI, то Віталік розглядає його як концепцію вищого рівня: стандарт ASI виконується, коли людська участь (людина в циклі) більше не приносить ніякої цінності системі. Як приклад, зазначає він, штучний інтелект у шахах досяг такого рівня лише за останнє десятиліття. Він відверто каже, що ASI лякає його, і навіть AGI, як він сам це визначає, тому що ці технології можуть становити значний ризик втрати людиною контролю. Як наслідок, Віталік вважає за краще зосередитися на розробці інструментів, які доповнюють людський інтелект, а не на побудові якоїсь форми надрозумного життя. Його позиція узгоджується з думкою, яку він висловив сьогодні: правильний розвиток штучного інтелекту має накласти «механічну броню» на людський інтелект, а не створювати нові незалежні розумні форми життя. AGI: Відноситься до штучного інтелекту з інтелектом, подібним до людського, здатним виконувати завдання в багатьох різних областях, не обмежуючись конкретними додатками. ASI: Відноситься до штучного інтелекту, який перевершує всі рівні людського інтелекту, не тільки має чудові можливості в певних областях, але й перевершує людей у всіх аспектах всебічно. Пов'язані історії Віталік: Діпфейки в епоху штучного інтелекту...
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
1 лайків
Нагородити
1
1
Поділіться
Прокоментувати
0/400
Distanger
· 01-10 08:48
Рівень інтелекту деяких штучних інтелектів вже порівняний з людським. І я не буду здивований, що незалежні та самовідтворюються інтелектуальні істоти вже з'явилися.
Віталік Бутерін: правильний розвиток штучного інтелекту - це стати "механічним обладунком" для людського мислення та досягти світового розуму
Співзасновник Ethereum Віталік Бутерін прокоментував сьогодні розвиток штучного інтелекту, стверджуючи, що неправильний розвиток ШІ може призвести до незалежного та самовідтворюваного розумного життя, і правильний напрямок – стати «механічною бронею» людського інтелекту для досягнення процвітаючої надрозумної людської цивілізації. (Синопсис: V Бог боїться розвитку штучного інтелекту: люди повинні створювати зручні інструменти, а не розумне життя) (Довідкове доповнення: Віталік вилаяв криптосвіт Статус: Криптовалюта відхилилася від сфери криптографії та інформаційної безпеки, що є провалом) Цього тижня генеральний директор Huida Дженсен Хуанг у своїй програмній промові на CES 2025 зазначив: «Агенти штучного інтелекту мають потенціал стати багатотрильйонною індустрією». Згідно з даними Kaito, підігріваючи ентузіазм спільноти шифрування щодо агентів штучного інтелекту, цього тижня увага до ШІ вперше досягла майже 70%. Джерело: @sandraaleow V God: Правильна розробка ШІ оснащує людський інтелект "механічною бронею" А сьогодні співзасновник Ethereum Віталік Бутерін також прокоментував розробку ШІ: Неправильна розробка ШІ може створити незалежне та самовідтворюване розумне життя. А правильний розвиток ШІ має стати «механічною бронею» людського розуму. Якщо ми будемо робити тільки перше і ігнорувати друге, людство ризикує назавжди втратити владу; Але якщо ми зробимо останнє, то зможемо сподіватися на процвітання надрозумної людської цивілізації. Щодо методу досягнення останнього, Віталік далі пояснює: Дистиляція людського судження є одним із способів досягнення останнього на колективному рівні. Багато сучасних інструментів для генерації відео зі штучним інтелектом продемонстрували початок цієї тенденції: не просто «введення інструкцій і очікування результату», а процес точного контролю та налаштування в режимі реального часу. Віталік також прикріпив скріншот статті, яку він написав у листопаді минулого року, ілюструючи спосіб удосконалення людських суджень за допомогою «інформаційних фінансів», щоб змусити складні, дорогі та ефективні механізми людських суджень працювати недорого, швидко та ефективно. Він наводить ідею Робіна Хенсона про те, що можна використовувати «ринки передбачень». За допомогою ринкових механізмів ми можемо отримати «рафіновану версію» дорогого механізму (тут використовується слово «рафінування», подібно до процесу дистиляції LLM) надійним, нейтральним, швидким і дешевим способом. З плином часу цей механізм доопрацювання в цілому імітує поведінку вихідного механізму, тому що заробляють тільки ті учасники, які допомагають досягти потрібного результату, а інші втрачають гроші. З того, чим він поділився, він, можливо, захоче дослідити, «як людські цінності та інтелект можуть бути ефективно інтегровані в процес прийняття рішень системами штучного інтелекту», і наголосити на важливості економічних стимулів у цьому. Штучний інтелект, зроблений неправильно, створює нові форми незалежного самовідтворюваного розумного життя Штучний інтелект, зроблений правильно, є хутром, підходить для людського розуму Якщо ми зробимо перше без другого, ми ризикуємо постійним людиною безправ'я. Якщо ми зробимо останнє, то розквітне суперінтелігентна людська цивілізація — vitalik.eth (@VitalikButerin) January 10, 2025 Чи варто створювати агентів штучного інтелекту? З іншого боку, у відповідь на запитання користувачів мережі про те, «чи має бути вибір дизайну на основі агентного штучного інтелекту чи ядро покращення людських можливостей?» На запитання Віталік відповів: "Агенти" – цікаве слово. Іноді йдеться про «штучний інтелект, який може працювати сам і складати складні плани протягом кількох днів без втручання людини», але частіше це просто стосується «чат-ботів, які замінюють графічні інтерфейси користувача як основний засіб взаємодії для додатків». Віталік прямо каже, що останнє – це чудово. Це збігається зі статтею, яку він опублікував у грудні минулого року про ідеальний Гаманець. У цій статті він досліджує, як прогрес у галузі штучного інтелекту може призвести до глибокої революції в способі взаємодії, і зазначає, що в майбутньому можна перейти від традиційної моделі операції та введення «клацни та клацни» до нової моделі «скажи, що тобі потрібно, і робот зробить це за тебе». Він зазначив, що завдяки введенню природною мовою, відстеженню очей і ще більш прямому інтерфейсу мозок-комп'ютер (BCI) в майбутньому, а також глибоким знанням історії користувача (наприклад, журналів SMS, за умови, що всі дані обробляються тільки локально), «Гаманець» може більш інтуїтивно зрозуміти наміри користувача. Штучний інтелект може втілити ці наміри в конкретні «плани дій», серію блокчейні та блокчейном для задоволення потреб користувачів. В результаті потреба в сторонніх користувальницьких інтерфейсах значно скоротиться. Якщо користувачам потрібно взаємодіяти зі сторонніми додатками або іншими користувачами, штучний інтелект повинен починати з урахуванням інтересів користувача, заздалегідь виявляти потенційні ризики та пропонувати рішення, які можна запропонувати. В ідеалі, додає Віталік, ці штучні інтелекти повинні розроблятися різними командами, створюючи різноманітну та відкриту екосистему, яка задовольняє різні вподобання та потреби. В кінці грудня Віталік запропонував своє визначення AGI при обговоренні AGI (штучний загальний інтелект) і ASI (штучний суперінтелект): AGI - це штучний інтелект, досить потужний, щоб, якщо одного разу всі люди раптом зникнуть і цей ШІ буде завантажений в оболонку робота, він зможе самостійно підтримувати роботу цивілізації. Він також визнає, що це визначення надзвичайно складне для кількісної оцінки, але це потенційна інтуїтивна різниця між «ШІ, до якого ми звикли» та «AGI» у свідомості багатьох людей. Еволюція від інструменту, який постійно залежить від людського внеску, до самодостатньої форми життя лежить в основі цієї відмінності. Що стосується ASI, то Віталік розглядає його як концепцію вищого рівня: стандарт ASI виконується, коли людська участь (людина в циклі) більше не приносить ніякої цінності системі. Як приклад, зазначає він, штучний інтелект у шахах досяг такого рівня лише за останнє десятиліття. Він відверто каже, що ASI лякає його, і навіть AGI, як він сам це визначає, тому що ці технології можуть становити значний ризик втрати людиною контролю. Як наслідок, Віталік вважає за краще зосередитися на розробці інструментів, які доповнюють людський інтелект, а не на побудові якоїсь форми надрозумного життя. Його позиція узгоджується з думкою, яку він висловив сьогодні: правильний розвиток штучного інтелекту має накласти «механічну броню» на людський інтелект, а не створювати нові незалежні розумні форми життя. AGI: Відноситься до штучного інтелекту з інтелектом, подібним до людського, здатним виконувати завдання в багатьох різних областях, не обмежуючись конкретними додатками. ASI: Відноситься до штучного інтелекту, який перевершує всі рівні людського інтелекту, не тільки має чудові можливості в певних областях, але й перевершує людей у всіх аспектах всебічно. Пов'язані історії Віталік: Діпфейки в епоху штучного інтелекту...