Виталик Бутерин: Правильное развитие искусственного интеллекта - это стать "механической броней" человеческого мышления для достижения сверхразумной цивилизации
Сооснователь Ethereum Vitalik Buterin сегодня высказал свои комментарии относительно развития искусственного интеллекта. Он считает, что неправильное развитие искусственного интеллекта может привести к появлению независимых и самовоспроизводящихся интеллектуальных существ, тогда как правильным путем является создание для человеческого разума "механической брони", чтобы достичь процветающей сверхразумной человеческой цивилизации. (Предыдущая информация: Виталик боится развития искусственного интеллекта: людям следует создавать удобные инструменты, а не создавать разумные жизни) (Дополнительно: Виталик критикует состояние мира криптовалют: криптовалюта ушла от криптографии и информационной безопасности, это неудача) На этой неделе генеральный директор NVIDIA Хуан Рэнсиньо на тематической речи CES 2025 заявил: "AI agent имеет потенциал стать отраслью на несколько триллионов долларов". Это разжигает пыл сообщества по шифрованию к агентам ИИ, согласно данным Kaito, заинтересованность в ИИ на этой неделе впервые достигла почти 70%. Источник: @sandraaleow Виталик: Правильное развитие ИИ - это "механическая броня" для человеческого разума В своем сегодняшнем комментарии по развитию искусственного интеллекта сооснователь Ethereum Виталик Бутерин также выразил свое мнение: Неправильное развитие ИИ может привести к появлению независимых и самовоспроизводящихся интеллектуальных существ. Правильным путем для ИИ является стать "механической броней" для человеческого мышления. Если мы сделаем только первое, игнорируя второе, человечество может столкнуться с риском постоянной потери власти; но если мы достигнем второго, у нас есть шанс достичь процветающей сверхразумной человеческой цивилизации. В отношении методов достижения второго Виталик дополнительно объясняет: Одним из способов достижения второго на коллективном уровне является извлечение (distill) суждений человека. Многие современные инструменты генерации видео с использованием ИИ уже продемонстрировали эту тенденцию: это не просто "ввод команд и ожидание результатов", а процесс мгновенного точного контроля и настройки. Виталик также приложил скриншот своей статьи, написанной им в ноябре прошлого года, где он излагает метод извлечения суждений человека с использованием "информационного финансирования" с целью обеспечить работу сложного, дорогостоящего и эффективного механизма суждения человека по низкой стоимости, быстро и эффективно. Он цитирует идеи Робина Хансона, говоря, что это можно сделать с помощью "рынка прогнозов". Через рыночный механизм мы можем получить "извлеченные версии" дорогих механизмов способным, нейтральным и быстрым способом (здесь используется термин "извлечение" похожий на процесс дистилляции в LLM). С течением времени этот механизм извлечения будет в значительной степени имитировать поведение оригинального механизма, поскольку только участники, способствующие достижению правильных результатов, смогут заработать деньги, в то время как остальные понесут убытки. Исходя из того, что он поделился этим контентом, можно предположить, что он хочет исследовать "как эффективно внедрить человеческие ценности и мудрость в решения искусственного интеллекта", и он подчеркивает важность экономического стимулирования в этом процессе. ИИ, сделанный неправильно, создает новые формы независимых самовоспроизводящихся интеллектуальных жизней ИИ, сделанный правильно, это механические костюмы для человеческого разума Если мы делаем первое без второго, мы рискуем постоянной потерей человеческой власти. Если мы делаем второе, мы можем достичь процветающей сверхразумной человеческой цивилизации. Стоит ли создавать AI агентов? С другой стороны, на вопрос в социальных сетях о "дизайне, должны ли быть агенты AI или улучшение способностей человека в центре выбора" Виталик отвечает: "Агенты" - это интересное слово. Иногда это означает "AI, который может работать самостоятельно и разрабатывать сложные планы, продолжая действовать дни без вмешательства человека", но чаще всего это просто "чат-боты, заменяющие графический интерфейс пользователя, становясь основным способом взаимодействия приложений". Виталик говорит, что последнее - это замечательно. Это совпадает с его статьей о Кошельке, опубликованной им в декабре прошлого года. В этой статье он исследует возможное преобразование способа взаимодействия благодаря прогрессу ИИ и указывает на возможность перехода от традиционных операций по нажатию и вводу к новому образу "сказать свои потребности, робот выполнит их за вас". Он отмечает: Через ввод на естественном языке, отслеживание взгляда, а возможно в будущем и прямые мозговые интерфейсы (BCI), а также глубокое понимание истории пользователя (например, смс-сообщения, при условии, что все данные обрабатываются локально), "Кошелек" может более интуитивно понимать намерения пользователя. ИИ может преобразовать эти намерения в конкретные "планы действий", то есть серию операций в блокчейне и вне блокчейна для удовлетворения потребностей пользователя. Таким образом, потребность в сторонних интерфейсах значительно снизится. Если пользовательу нужно взаимодействовать с сторонними приложениями или другими пользователями, ИИ должен действовать в интересах пользователя, заранее обнаруживать потенциальные риски и предлагать решения. Виталик добавляет, что в идеальном случае эти ИИ должны разрабатываться различными командами, образуя разнообразную открытую экосистему, удовлетворяющую различные предпочтения и потребности. Поддерживать создание инструментов, способных улучшить человеческую мудрость В конце декабря прошлого года Виталик, обсуждая AGI (искусственный общий интеллект) и ASI (искусственный сверхинтеллект), предложил свое определение AGI: AGI - это достаточно мощный искусственный интеллект, такой, что если бы однажды все люди вдруг исчезли, и этот ИИ был загружен в тела роботов, он смог бы самостоятельно поддерживать работу цивилизации. Он также признает, что это крайне сложное определение, но именно это является ключевым отличием в понимании многими между "привычным нам ИИ" и "AGI". Переход от инструмента, постоянно зависимого от человеческого ввода, к самообеспечивающему существу - вот в чем суть этого различия. Что касается ASI, Виталик видит его как более высокий уровень концепции: когда участие человека (человек в цикле) больше не приносит системе ценности, это означает достижение стандарта ASI. Он приводит пример, что даже в шахматы AI достигла этого уровня только в последние десять лет. Он откровенно говорит, что ASI пугает его, и даже его собственное определение AGI делает его беспокойным, потому что эти технологии могут принести значительные риски потери контроля над человечеством. Поэтому Виталик склоняется к тому, чтобы сосредоточиться на создании инструментов, способных улучшить человеческую мудрость, а не строить какую-то форму сверхинтеллектуальной жизни. Его позиция сегодня соответствует его точке зрения: правильное развитие ИИ должно обеспечить "механическую броню" для человеческого разума, а не создавать новые независимые интеллектуальные жизни. AGI: отсылка к искусственному общему интеллекту с аналогичным человеческому интеллекту, способному выполнять задачи в различных областях, а не только в определенных приложениях. ASI: отсылка к искусственному сверхинтеллекту, превосходящему все уровни человеческого интеллекта, обладающему выдающейся способностью в определенной области, а также способностью превосходить человека в каждом аспекте. Связанные материалы Виталик: в эпоху ИИ Deepfake...
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
1 Лайков
Награда
1
1
Поделиться
комментарий
0/400
Distanger
· 01-10 08:48
Уровень интеллекта некоторых AI уже сопоставим с человеческим. И я не удивлюсь (не удивляюсь?), что независимые и самовоспроизводящиеся интеллектуальные существа уже появились.
Виталик Бутерин: Правильное развитие искусственного интеллекта - это стать "механической броней" человеческого мышления для достижения сверхразумной цивилизации
Сооснователь Ethereum Vitalik Buterin сегодня высказал свои комментарии относительно развития искусственного интеллекта. Он считает, что неправильное развитие искусственного интеллекта может привести к появлению независимых и самовоспроизводящихся интеллектуальных существ, тогда как правильным путем является создание для человеческого разума "механической брони", чтобы достичь процветающей сверхразумной человеческой цивилизации. (Предыдущая информация: Виталик боится развития искусственного интеллекта: людям следует создавать удобные инструменты, а не создавать разумные жизни) (Дополнительно: Виталик критикует состояние мира криптовалют: криптовалюта ушла от криптографии и информационной безопасности, это неудача) На этой неделе генеральный директор NVIDIA Хуан Рэнсиньо на тематической речи CES 2025 заявил: "AI agent имеет потенциал стать отраслью на несколько триллионов долларов". Это разжигает пыл сообщества по шифрованию к агентам ИИ, согласно данным Kaito, заинтересованность в ИИ на этой неделе впервые достигла почти 70%. Источник: @sandraaleow Виталик: Правильное развитие ИИ - это "механическая броня" для человеческого разума В своем сегодняшнем комментарии по развитию искусственного интеллекта сооснователь Ethereum Виталик Бутерин также выразил свое мнение: Неправильное развитие ИИ может привести к появлению независимых и самовоспроизводящихся интеллектуальных существ. Правильным путем для ИИ является стать "механической броней" для человеческого мышления. Если мы сделаем только первое, игнорируя второе, человечество может столкнуться с риском постоянной потери власти; но если мы достигнем второго, у нас есть шанс достичь процветающей сверхразумной человеческой цивилизации. В отношении методов достижения второго Виталик дополнительно объясняет: Одним из способов достижения второго на коллективном уровне является извлечение (distill) суждений человека. Многие современные инструменты генерации видео с использованием ИИ уже продемонстрировали эту тенденцию: это не просто "ввод команд и ожидание результатов", а процесс мгновенного точного контроля и настройки. Виталик также приложил скриншот своей статьи, написанной им в ноябре прошлого года, где он излагает метод извлечения суждений человека с использованием "информационного финансирования" с целью обеспечить работу сложного, дорогостоящего и эффективного механизма суждения человека по низкой стоимости, быстро и эффективно. Он цитирует идеи Робина Хансона, говоря, что это можно сделать с помощью "рынка прогнозов". Через рыночный механизм мы можем получить "извлеченные версии" дорогих механизмов способным, нейтральным и быстрым способом (здесь используется термин "извлечение" похожий на процесс дистилляции в LLM). С течением времени этот механизм извлечения будет в значительной степени имитировать поведение оригинального механизма, поскольку только участники, способствующие достижению правильных результатов, смогут заработать деньги, в то время как остальные понесут убытки. Исходя из того, что он поделился этим контентом, можно предположить, что он хочет исследовать "как эффективно внедрить человеческие ценности и мудрость в решения искусственного интеллекта", и он подчеркивает важность экономического стимулирования в этом процессе. ИИ, сделанный неправильно, создает новые формы независимых самовоспроизводящихся интеллектуальных жизней ИИ, сделанный правильно, это механические костюмы для человеческого разума Если мы делаем первое без второго, мы рискуем постоянной потерей человеческой власти. Если мы делаем второе, мы можем достичь процветающей сверхразумной человеческой цивилизации. Стоит ли создавать AI агентов? С другой стороны, на вопрос в социальных сетях о "дизайне, должны ли быть агенты AI или улучшение способностей человека в центре выбора" Виталик отвечает: "Агенты" - это интересное слово. Иногда это означает "AI, который может работать самостоятельно и разрабатывать сложные планы, продолжая действовать дни без вмешательства человека", но чаще всего это просто "чат-боты, заменяющие графический интерфейс пользователя, становясь основным способом взаимодействия приложений". Виталик говорит, что последнее - это замечательно. Это совпадает с его статьей о Кошельке, опубликованной им в декабре прошлого года. В этой статье он исследует возможное преобразование способа взаимодействия благодаря прогрессу ИИ и указывает на возможность перехода от традиционных операций по нажатию и вводу к новому образу "сказать свои потребности, робот выполнит их за вас". Он отмечает: Через ввод на естественном языке, отслеживание взгляда, а возможно в будущем и прямые мозговые интерфейсы (BCI), а также глубокое понимание истории пользователя (например, смс-сообщения, при условии, что все данные обрабатываются локально), "Кошелек" может более интуитивно понимать намерения пользователя. ИИ может преобразовать эти намерения в конкретные "планы действий", то есть серию операций в блокчейне и вне блокчейна для удовлетворения потребностей пользователя. Таким образом, потребность в сторонних интерфейсах значительно снизится. Если пользовательу нужно взаимодействовать с сторонними приложениями или другими пользователями, ИИ должен действовать в интересах пользователя, заранее обнаруживать потенциальные риски и предлагать решения. Виталик добавляет, что в идеальном случае эти ИИ должны разрабатываться различными командами, образуя разнообразную открытую экосистему, удовлетворяющую различные предпочтения и потребности. Поддерживать создание инструментов, способных улучшить человеческую мудрость В конце декабря прошлого года Виталик, обсуждая AGI (искусственный общий интеллект) и ASI (искусственный сверхинтеллект), предложил свое определение AGI: AGI - это достаточно мощный искусственный интеллект, такой, что если бы однажды все люди вдруг исчезли, и этот ИИ был загружен в тела роботов, он смог бы самостоятельно поддерживать работу цивилизации. Он также признает, что это крайне сложное определение, но именно это является ключевым отличием в понимании многими между "привычным нам ИИ" и "AGI". Переход от инструмента, постоянно зависимого от человеческого ввода, к самообеспечивающему существу - вот в чем суть этого различия. Что касается ASI, Виталик видит его как более высокий уровень концепции: когда участие человека (человек в цикле) больше не приносит системе ценности, это означает достижение стандарта ASI. Он приводит пример, что даже в шахматы AI достигла этого уровня только в последние десять лет. Он откровенно говорит, что ASI пугает его, и даже его собственное определение AGI делает его беспокойным, потому что эти технологии могут принести значительные риски потери контроля над человечеством. Поэтому Виталик склоняется к тому, чтобы сосредоточиться на создании инструментов, способных улучшить человеческую мудрость, а не строить какую-то форму сверхинтеллектуальной жизни. Его позиция сегодня соответствует его точке зрения: правильное развитие ИИ должно обеспечить "механическую броню" для человеческого разума, а не создавать новые независимые интеллектуальные жизни. AGI: отсылка к искусственному общему интеллекту с аналогичным человеческому интеллекту, способному выполнять задачи в различных областях, а не только в определенных приложениях. ASI: отсылка к искусственному сверхинтеллекту, превосходящему все уровни человеческого интеллекта, обладающему выдающейся способностью в определенной области, а также способностью превосходить человека в каждом аспекте. Связанные материалы Виталик: в эпоху ИИ Deepfake...