Vitalik Buterin: un développement AI correct devrait devenir une « armure mécanique » de la pensée humaine pour réaliser une civilisation super-intelligente
Le cofondateur d’Ethereum, Vitalik Buterin, a commenté aujourd’hui le développement de l’IA, affirmant que le mauvais développement de l’IA pourrait conduire à une vie intelligente indépendante et auto-réplicante, et que la bonne direction est de devenir « l’armure mécanique » de l’intelligence humaine pour parvenir à une civilisation humaine superintelligente florissante. (Synopsis : V Dieu a peur du développement de l’IA : les humains devraient construire des outils pratiques, pas créer une vie intelligente) (Arrière-plan ajouté : Vitalik réprimande l’univers de la cryptomonnaie Statut : Cryptomonnaie a dévié du domaine de la cryptographie et de la sécurité de l’information, ce qui est un échec) Cette semaine, le PDG de Huida, Jensen Huang, a mentionné dans son discours d’ouverture au CES 2025 : « Les agents d’IA ont le potentiel de devenir une industrie de plusieurs billions de dollars. » Alimentant l’enthousiasme de la communauté du chiffrement pour les agents d’IA, l’attention de l’IA a atteint près de 70 % pour la première fois cette semaine, selon Kaito. Source : @sandraaleow V Dieu : Le bon développement de l’IA dote l’intelligence humaine d’une « armure mécanique » Et aujourd’hui, le cofondateur d’Ethereum, Vitalik Buterin, a également commenté le développement de l’IA : Le mauvais développement de l’IA peut créer une vie intelligente indépendante et auto-réplicante. Et le développement correct de l’IA est de devenir « l’armure mécanique » de l’esprit humain. Si nous ne faisons que le premier et ignorons le second, l’humanité risque de perdre définitivement son pouvoir ; Mais si nous faisons ce dernier, nous pouvons espérer parvenir à une civilisation humaine prospère et superintelligente. Sur la méthode pour atteindre ce dernier, Vitalik explique en outre : Distiller le jugement humain est un moyen d’atteindre ce dernier au niveau collectif. De nombreux outils de génération vidéo basés sur l’IA d’aujourd’hui ont démontré le début de cette tendance : il ne s’agit pas simplement de « saisir des instructions et d’attendre le résultat », mais d’un processus de contrôle et d’ajustement précis en temps réel. Vitalik a également joint une capture d’écran d’un article qu’il a écrit en novembre dernier, illustrant un moyen d’affiner le jugement humain grâce au « financement de l’information » afin de faire fonctionner des mécanismes de jugement humain complexes, coûteux et efficaces de manière peu coûteuse, rapide et efficace. Il cite l’idée de Robin Hanson selon laquelle les « marchés de prédiction » peuvent être utilisés. Grâce aux mécanismes du marché, nous pouvons obtenir une « version raffinée » d’un mécanisme autrement coûteux (le mot « raffinage » est utilisé ici, similaire au processus de distillation du LLM) d’une manière crédible, neutre, rapide et bon marché. Au fil du temps, ce mécanisme d’affinage imite largement le comportement du mécanisme d’origine, car seuls les participants qui aident à obtenir le bon résultat gagnent de l’argent, tandis que les autres en perdent. D’après ce qu’il a partagé, il voudra peut-être explorer « comment les valeurs humaines et l’intelligence peuvent être efficacement intégrées dans la prise de décision des systèmes d’IA » et souligner l’importance des incitations économiques à cet égard. L’IA mal faite, c’est créer de nouvelles formes de vie intelligente indépendante et auto-réplicante L’IA bien faite, c’est un mecha adapté à l’esprit humain Si nous faisons le premier sans le second, nous risquons d’être humains permanents. l’impuissance. If we do the second, florissant superinteligent human civilization — vitalik.eth (@VitalikButerin) January 10, 2025 Faut-il construire des agents d’IA ? D’autre part, en réponse aux questions des internautes sur « le choix de conception devrait-il être l’IA basée sur des agents ou le cœur de l’amélioration des capacités humaines ? » Lorsqu’on lui a posé la question, Vitalik a répondu : « Agents » est un mot intéressant. Parfois, il fait référence à « l’IA qui peut s’exécuter elle-même et faire des plans complexes pendant des jours sans intervention humaine », mais le plus souvent, il fait simplement référence à « des chatbots remplaçant les interfaces graphiques (GUI) comme principal moyen d’interaction pour les applications ». Vitalik dit carrément que ce dernier est génial. Cela coïncide avec un article qu’il a publié en décembre dernier sur le Portefeuille idéal. Dans cet article, il explore comment les progrès de l’IA pourraient conduire à une révolution profonde dans la façon dont vous interagissez, et souligne qu’à l’avenir, il est possible de passer du modèle traditionnel d’opération et d’entrée en un clic à un nouveau modèle de « dites ce dont vous avez besoin, et le robot le fera pour vous ». Il a mentionné que grâce à la saisie en langage naturel, à l’oculométrie et même à une interface cerveau-ordinateur (BCI) plus directe à l’avenir, ainsi qu’à une connaissance approfondie de l’historique des utilisateurs (comme les journaux SMS, à condition que toutes les données ne soient traitées que localement), Portefeuille peut comprendre plus intuitivement l’intention de l’utilisateur. L’IA peut traduire ces intentions en « plans d’action » concrets, c’est-à-dire une série d’actions hors chaîne et hors chaîne pour répondre aux besoins des utilisateurs. En conséquence, le besoin d’interfaces utilisateur tierces sera considérablement réduit. Si les utilisateurs ont besoin d’interagir avec des applications tierces ou d’autres utilisateurs, l’IA doit commencer par les intérêts de l’utilisateur, détecter les risques potentiels à l’avance et fournir des solutions à suggérer. Idéalement, ajoute Vitalik, ces IA devraient être développées par différentes équipes, créant ainsi un écosystème diversifié et ouvert qui répond à différentes préférences et besoins. À la fin du mois de décembre, Vitalik a proposé sa définition de l’IAG en discutant de l’AGI (ARTIFICIAL GENERAL INTELLIGENCE) et de l’ASI (artificial superintelligence) : L’AGI est une intelligence artificielle suffisamment puissante pour que si un jour tous les humains disparaissent soudainement et que cette IA soit téléchargée dans la coquille d’un robot, elle puisse maintenir indépendamment le fonctionnement de la civilisation. Il admet également qu’il s’agit d’une définition extrêmement difficile à quantifier, mais c’est la différence intuitive potentielle entre « l’IA à laquelle nous sommes habitués » et « l’IA » dans l’esprit de nombreuses personnes. L’évolution d’un outil qui repose constamment sur l’apport humain à une forme de vie autosuffisante est au cœur de cette différence. En ce qui concerne l’ASI, Vitalik le considère comme un concept de niveau supérieur : la norme de l’ASI est respectée lorsque la participation humaine (human-in-the-loop) n’apporte plus aucune valeur au système. À titre d’exemple, souligne-t-il, l’IA aux échecs n’a atteint ce niveau qu’au cours de la dernière décennie. Il dit candidement que l’ASI le terrifie, et même l’AGI comme il le définit lui-même, car ces technologies peuvent présenter un risque important de perte de contrôle par les humains. En conséquence, Vitalik préfère se concentrer sur le développement d’outils qui augmentent l’intelligence humaine plutôt que sur la construction d’une forme de vie superintelligente. Sa position est cohérente avec le point de vue qu’il a exprimé aujourd’hui : le bon développement de l’IA devrait mettre une « armure mécanique » sur l’intelligence humaine, et non créer de nouvelles formes de vie intelligentes indépendantes. AGI : Fait référence à l’intelligence artificielle dotée d’une intelligence de type humain, capable d’effectuer des tâches dans de nombreux domaines différents, sans se limiter à des applications spécifiques. ASI : Fait référence à l’intelligence artificielle qui surpasse tous les niveaux de l’intelligence humaine, qui a non seulement des capacités supérieures dans des domaines spécifiques, mais qui surpasse également les humains dans tous les aspects de manière globale. À lire aussi Vitalik : les deepfakes à l’ère de l’IA...
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
1 J'aime
Récompense
1
1
Partager
Commentaire
0/400
Distanger
· 01-10 08:48
Le niveau d'intelligence de certains AI est déjà comparable à celui des humains. Et je ne serais pas surpris que des entités intellectuelles indépendantes et autoréplicatives aient déjà fait leur apparition.
Vitalik Buterin: un développement AI correct devrait devenir une « armure mécanique » de la pensée humaine pour réaliser une civilisation super-intelligente
Le cofondateur d’Ethereum, Vitalik Buterin, a commenté aujourd’hui le développement de l’IA, affirmant que le mauvais développement de l’IA pourrait conduire à une vie intelligente indépendante et auto-réplicante, et que la bonne direction est de devenir « l’armure mécanique » de l’intelligence humaine pour parvenir à une civilisation humaine superintelligente florissante. (Synopsis : V Dieu a peur du développement de l’IA : les humains devraient construire des outils pratiques, pas créer une vie intelligente) (Arrière-plan ajouté : Vitalik réprimande l’univers de la cryptomonnaie Statut : Cryptomonnaie a dévié du domaine de la cryptographie et de la sécurité de l’information, ce qui est un échec) Cette semaine, le PDG de Huida, Jensen Huang, a mentionné dans son discours d’ouverture au CES 2025 : « Les agents d’IA ont le potentiel de devenir une industrie de plusieurs billions de dollars. » Alimentant l’enthousiasme de la communauté du chiffrement pour les agents d’IA, l’attention de l’IA a atteint près de 70 % pour la première fois cette semaine, selon Kaito. Source : @sandraaleow V Dieu : Le bon développement de l’IA dote l’intelligence humaine d’une « armure mécanique » Et aujourd’hui, le cofondateur d’Ethereum, Vitalik Buterin, a également commenté le développement de l’IA : Le mauvais développement de l’IA peut créer une vie intelligente indépendante et auto-réplicante. Et le développement correct de l’IA est de devenir « l’armure mécanique » de l’esprit humain. Si nous ne faisons que le premier et ignorons le second, l’humanité risque de perdre définitivement son pouvoir ; Mais si nous faisons ce dernier, nous pouvons espérer parvenir à une civilisation humaine prospère et superintelligente. Sur la méthode pour atteindre ce dernier, Vitalik explique en outre : Distiller le jugement humain est un moyen d’atteindre ce dernier au niveau collectif. De nombreux outils de génération vidéo basés sur l’IA d’aujourd’hui ont démontré le début de cette tendance : il ne s’agit pas simplement de « saisir des instructions et d’attendre le résultat », mais d’un processus de contrôle et d’ajustement précis en temps réel. Vitalik a également joint une capture d’écran d’un article qu’il a écrit en novembre dernier, illustrant un moyen d’affiner le jugement humain grâce au « financement de l’information » afin de faire fonctionner des mécanismes de jugement humain complexes, coûteux et efficaces de manière peu coûteuse, rapide et efficace. Il cite l’idée de Robin Hanson selon laquelle les « marchés de prédiction » peuvent être utilisés. Grâce aux mécanismes du marché, nous pouvons obtenir une « version raffinée » d’un mécanisme autrement coûteux (le mot « raffinage » est utilisé ici, similaire au processus de distillation du LLM) d’une manière crédible, neutre, rapide et bon marché. Au fil du temps, ce mécanisme d’affinage imite largement le comportement du mécanisme d’origine, car seuls les participants qui aident à obtenir le bon résultat gagnent de l’argent, tandis que les autres en perdent. D’après ce qu’il a partagé, il voudra peut-être explorer « comment les valeurs humaines et l’intelligence peuvent être efficacement intégrées dans la prise de décision des systèmes d’IA » et souligner l’importance des incitations économiques à cet égard. L’IA mal faite, c’est créer de nouvelles formes de vie intelligente indépendante et auto-réplicante L’IA bien faite, c’est un mecha adapté à l’esprit humain Si nous faisons le premier sans le second, nous risquons d’être humains permanents. l’impuissance. If we do the second, florissant superinteligent human civilization — vitalik.eth (@VitalikButerin) January 10, 2025 Faut-il construire des agents d’IA ? D’autre part, en réponse aux questions des internautes sur « le choix de conception devrait-il être l’IA basée sur des agents ou le cœur de l’amélioration des capacités humaines ? » Lorsqu’on lui a posé la question, Vitalik a répondu : « Agents » est un mot intéressant. Parfois, il fait référence à « l’IA qui peut s’exécuter elle-même et faire des plans complexes pendant des jours sans intervention humaine », mais le plus souvent, il fait simplement référence à « des chatbots remplaçant les interfaces graphiques (GUI) comme principal moyen d’interaction pour les applications ». Vitalik dit carrément que ce dernier est génial. Cela coïncide avec un article qu’il a publié en décembre dernier sur le Portefeuille idéal. Dans cet article, il explore comment les progrès de l’IA pourraient conduire à une révolution profonde dans la façon dont vous interagissez, et souligne qu’à l’avenir, il est possible de passer du modèle traditionnel d’opération et d’entrée en un clic à un nouveau modèle de « dites ce dont vous avez besoin, et le robot le fera pour vous ». Il a mentionné que grâce à la saisie en langage naturel, à l’oculométrie et même à une interface cerveau-ordinateur (BCI) plus directe à l’avenir, ainsi qu’à une connaissance approfondie de l’historique des utilisateurs (comme les journaux SMS, à condition que toutes les données ne soient traitées que localement), Portefeuille peut comprendre plus intuitivement l’intention de l’utilisateur. L’IA peut traduire ces intentions en « plans d’action » concrets, c’est-à-dire une série d’actions hors chaîne et hors chaîne pour répondre aux besoins des utilisateurs. En conséquence, le besoin d’interfaces utilisateur tierces sera considérablement réduit. Si les utilisateurs ont besoin d’interagir avec des applications tierces ou d’autres utilisateurs, l’IA doit commencer par les intérêts de l’utilisateur, détecter les risques potentiels à l’avance et fournir des solutions à suggérer. Idéalement, ajoute Vitalik, ces IA devraient être développées par différentes équipes, créant ainsi un écosystème diversifié et ouvert qui répond à différentes préférences et besoins. À la fin du mois de décembre, Vitalik a proposé sa définition de l’IAG en discutant de l’AGI (ARTIFICIAL GENERAL INTELLIGENCE) et de l’ASI (artificial superintelligence) : L’AGI est une intelligence artificielle suffisamment puissante pour que si un jour tous les humains disparaissent soudainement et que cette IA soit téléchargée dans la coquille d’un robot, elle puisse maintenir indépendamment le fonctionnement de la civilisation. Il admet également qu’il s’agit d’une définition extrêmement difficile à quantifier, mais c’est la différence intuitive potentielle entre « l’IA à laquelle nous sommes habitués » et « l’IA » dans l’esprit de nombreuses personnes. L’évolution d’un outil qui repose constamment sur l’apport humain à une forme de vie autosuffisante est au cœur de cette différence. En ce qui concerne l’ASI, Vitalik le considère comme un concept de niveau supérieur : la norme de l’ASI est respectée lorsque la participation humaine (human-in-the-loop) n’apporte plus aucune valeur au système. À titre d’exemple, souligne-t-il, l’IA aux échecs n’a atteint ce niveau qu’au cours de la dernière décennie. Il dit candidement que l’ASI le terrifie, et même l’AGI comme il le définit lui-même, car ces technologies peuvent présenter un risque important de perte de contrôle par les humains. En conséquence, Vitalik préfère se concentrer sur le développement d’outils qui augmentent l’intelligence humaine plutôt que sur la construction d’une forme de vie superintelligente. Sa position est cohérente avec le point de vue qu’il a exprimé aujourd’hui : le bon développement de l’IA devrait mettre une « armure mécanique » sur l’intelligence humaine, et non créer de nouvelles formes de vie intelligentes indépendantes. AGI : Fait référence à l’intelligence artificielle dotée d’une intelligence de type humain, capable d’effectuer des tâches dans de nombreux domaines différents, sans se limiter à des applications spécifiques. ASI : Fait référence à l’intelligence artificielle qui surpasse tous les niveaux de l’intelligence humaine, qui a non seulement des capacités supérieures dans des domaines spécifiques, mais qui surpasse également les humains dans tous les aspects de manière globale. À lire aussi Vitalik : les deepfakes à l’ère de l’IA...