Vitalik Buterin: El desarrollo adecuado de la IA es convertirse en una 'armadura mecánica' del pensamiento humano para lograr una civilización superinteligente
El cofundador de Ethereum, Vitalik Buterin, habló hoy sobre el desarrollo de la IA, señalando que el desarrollo erróneo de la IA podría resultar en formas de vida inteligente independientes y autoreplicantes, mientras que la dirección correcta sería convertirse en una "armadura mecánica" para la inteligencia humana, logrando así una civilización humana superinteligente y próspera. (Antecedentes: V teme el desarrollo de la IA: los humanos deberían crear herramientas prácticas, no crear vida inteligente) (Contexto: Vitalik critica el estado actual del mundo cripto: las criptomonedas se han desviado de la criptografía y la seguridad informática, lo cual es un gran fracaso) Esta semana, el CEO de Nvidia, Huang Renxun, mencionó en su discurso principal en el CES 2025: "Los agentes de IA tienen el potencial de convertirse en una industria de varios billones de dólares", lo que ha avivado el entusiasmo de la comunidad de encriptación por los agentes de IA. Según los datos de Kaito, el interés en la IA esta semana ha alcanzado casi el 70%. Fuente: @sandraaleow V: El desarrollo correcto de la IA equipa a la inteligencia humana con una "armadura mecánica". Hoy, el cofundador de Ethereum, Vitalik Buterin, también comentó sobre el desarrollo de la IA, señalando que un desarrollo erróneo de la IA podría crear formas de vida inteligente independientes y autoreplicantes. Y el desarrollo correcto de la IA es convertirse en una "armadura mecánica" para el pensamiento humano. Si nos limitamos a lo primero y descuidamos lo segundo, podríamos enfrentarnos al riesgo de un desempoderamiento humano permanente; pero si logramos lo segundo, podríamos lograr una civilización humana superinteligente y próspera. En cuanto a cómo lograr lo segundo, Vitalik explicó más a fondo: Destilar el juicio humano es un método a nivel colectivo para lograr lo segundo. Muchas de las herramientas de generación de vídeos de IA actuales han demostrado esta tendencia: no se trata simplemente de "ingresar una instrucción y esperar el resultado", sino de un proceso de control y ajuste preciso en tiempo real. Vitalik adjuntó una captura de pantalla de un artículo que escribió en noviembre del año pasado, explicando un método para destilar el juicio humano a través de la "finanzas de la información", con el objetivo de hacer que el mecanismo de juicio humano complejo, costoso y eficiente funcione de manera económica, rápida y eficiente. Citó la idea de Robin Hanson, indicando que se podría recurrir a un "mercado de predicción". A través del mecanismo de mercado, podríamos obtener una "versión destilada" de los mecanismos costosos de manera confiable, imparcial, económica y rápida (aquí utiliza el término "destilación" de manera similar al proceso de destilación de LLM). Con el tiempo, este mecanismo de destilación imitará aproximadamente el comportamiento del mecanismo original, ya que solo aquellos participantes que contribuyen a resultados correctos podrán obtener ganancias, mientras que los demás sufrirán pérdidas. Al compartir este contenido, parece que Vitalik podría estar explorando "cómo integrar de manera eficiente los valores y la sabiduría humanos en la toma de decisiones de los sistemas de IA", y enfatizando la importancia de los incentivos económicos en ello. La IA mal implementada está creando nuevas formas de vida inteligente independientes La IA implementada correctamente es una armadura mecánica para la mente humana Si hacemos lo primero sin lo segundo, corremos el riesgo de un desempoderamiento humano permanente. Si hacemos lo segundo, tendremos una civilización humana superinteligente y próspera - vitalik.eth (@VitalikButerin) 10 de enero de 2025 ¿Deberíamos crear agentes de IA? Por otro lado, al responder a un usuario sobre la pregunta "¿Deberían los diseños ser agentes de IA o centrarse en mejorar las capacidades humanas?", Vitalik dijo: "'Agentes' es una palabra interesante. A veces se refiere a 'IA que puede funcionar de forma autónoma y planificar complejas tareas durante días sin intervención humana', pero más a menudo se refiere simplemente a 'chatbots que reemplazan las interfaces de usuario gráficas y se convierten en la principal forma de interacción de la aplicación'. Vitalik declaró que lo último es genial. Esto coincide con un artículo que publicó en diciembre del año pasado sobre la billetera ideal. En ese artículo, exploró cómo el avance de la IA podría revolucionar la forma de interactuar, señalando la posibilidad de pasar de los modos tradicionales de clics y entrada de texto a un nuevo modo en el que "dices lo que necesitas y el robot lo hace por ti". Mencionó: A través de la entrada de lenguaje natural, el seguimiento ocular e incluso interfaces cerebro-computadora (BCI) más directas en el futuro, y el profundo conocimiento del historial del usuario (como registros de mensajes de texto, siempre que todos los datos se procesen localmente), la billetera puede comprender de manera más intuitiva las intenciones del usuario. La IA puede convertir estas intenciones en "planes de acción" concretos, es decir, una serie de operaciones on-chain y off-chain para satisfacer las necesidades del usuario. De esta manera, se reducirá considerablemente la necesidad de interfaces de usuario de terceros. Si los usuarios necesitan interactuar con aplicaciones de terceros u otros usuarios, la IA debería anticipar los riesgos potenciales y proporcionar recomendaciones de solución con el interés del usuario en mente. Vitalik agregó que idealmente, estas IA deberían ser desarrolladas por equipos diversos, formando un ecosistema abierto y diverso para satisfacer diferentes preferencias y necesidades. Abogando por el desarrollo de herramientas que mejoren la inteligencia humana A finales de diciembre del año pasado, Vitalik presentó su definición de AGI (inteligencia artificial general) y ASI (inteligencia artificial superinteligente), planteando que el AGI es una forma de inteligencia artificial lo suficientemente poderosa como para mantener el funcionamiento de la civilización de manera independiente si todos los humanos desaparecieran de repente y esta IA se subiera al cuerpo de un robot. También admitió que esta es una definición extremadamente difícil de cuantificar, pero es la intuición subyacente entre "la IA que estamos acostumbrados" y la AGI. El núcleo de esta diferencia radica en la evolución de una herramienta que depende constantemente de la entrada humana hacia una forma de vida autosuficiente. En cuanto al ASI, Vitalik lo ve como un concepto de nivel superior: alcanzar el estándar de ASI cuando la participación humana ya no aporta ningún valor al sistema. Dio el ejemplo de la IA en el ajedrez, que recién alcanzó este nivel en la última década. Reconoció abiertamente que el ASI lo asusta, e incluso su propia definición de AGI lo hace sentir incómodo, ya que estas tecnologías podrían acarrear riesgos significativos de pérdida de control humano. Por lo tanto, Vitalik tiende más a enfocarse en el desarrollo de herramientas que mejoren la inteligencia humana, en lugar de construir alguna forma de vida superinteligente. Esta postura se alinea con el punto de vista que expresó hoy: el desarrollo correcto de la IA debería equipar a la inteligencia humana con una "armadura mecánica", en lugar de crear nuevas formas de vida inteligente independientes. AGI: se refiere a la inteligencia artificial que es similar a la humana, capaz de realizar tareas en múltiples campos, no solo en aplicaciones específicas. ASI: se refiere a una forma de inteligencia artificial que supera todos los niveles de inteligencia humana, no solo en un área específica, sino en todos los aspectos. Informe relacionado: Vitalik: en la era de la IA, Deepfake...
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
1 me gusta
Recompensa
1
1
Compartir
Comentar
0/400
Distanger
· 01-10 08:48
El nivel de inteligencia de algunos AI ya es comparable al humano. Y no me sorprendería que ya hayan aparecido seres intelectuales independientes y autorreplicantes.
Vitalik Buterin: El desarrollo adecuado de la IA es convertirse en una 'armadura mecánica' del pensamiento humano para lograr una civilización superinteligente
El cofundador de Ethereum, Vitalik Buterin, habló hoy sobre el desarrollo de la IA, señalando que el desarrollo erróneo de la IA podría resultar en formas de vida inteligente independientes y autoreplicantes, mientras que la dirección correcta sería convertirse en una "armadura mecánica" para la inteligencia humana, logrando así una civilización humana superinteligente y próspera. (Antecedentes: V teme el desarrollo de la IA: los humanos deberían crear herramientas prácticas, no crear vida inteligente) (Contexto: Vitalik critica el estado actual del mundo cripto: las criptomonedas se han desviado de la criptografía y la seguridad informática, lo cual es un gran fracaso) Esta semana, el CEO de Nvidia, Huang Renxun, mencionó en su discurso principal en el CES 2025: "Los agentes de IA tienen el potencial de convertirse en una industria de varios billones de dólares", lo que ha avivado el entusiasmo de la comunidad de encriptación por los agentes de IA. Según los datos de Kaito, el interés en la IA esta semana ha alcanzado casi el 70%. Fuente: @sandraaleow V: El desarrollo correcto de la IA equipa a la inteligencia humana con una "armadura mecánica". Hoy, el cofundador de Ethereum, Vitalik Buterin, también comentó sobre el desarrollo de la IA, señalando que un desarrollo erróneo de la IA podría crear formas de vida inteligente independientes y autoreplicantes. Y el desarrollo correcto de la IA es convertirse en una "armadura mecánica" para el pensamiento humano. Si nos limitamos a lo primero y descuidamos lo segundo, podríamos enfrentarnos al riesgo de un desempoderamiento humano permanente; pero si logramos lo segundo, podríamos lograr una civilización humana superinteligente y próspera. En cuanto a cómo lograr lo segundo, Vitalik explicó más a fondo: Destilar el juicio humano es un método a nivel colectivo para lograr lo segundo. Muchas de las herramientas de generación de vídeos de IA actuales han demostrado esta tendencia: no se trata simplemente de "ingresar una instrucción y esperar el resultado", sino de un proceso de control y ajuste preciso en tiempo real. Vitalik adjuntó una captura de pantalla de un artículo que escribió en noviembre del año pasado, explicando un método para destilar el juicio humano a través de la "finanzas de la información", con el objetivo de hacer que el mecanismo de juicio humano complejo, costoso y eficiente funcione de manera económica, rápida y eficiente. Citó la idea de Robin Hanson, indicando que se podría recurrir a un "mercado de predicción". A través del mecanismo de mercado, podríamos obtener una "versión destilada" de los mecanismos costosos de manera confiable, imparcial, económica y rápida (aquí utiliza el término "destilación" de manera similar al proceso de destilación de LLM). Con el tiempo, este mecanismo de destilación imitará aproximadamente el comportamiento del mecanismo original, ya que solo aquellos participantes que contribuyen a resultados correctos podrán obtener ganancias, mientras que los demás sufrirán pérdidas. Al compartir este contenido, parece que Vitalik podría estar explorando "cómo integrar de manera eficiente los valores y la sabiduría humanos en la toma de decisiones de los sistemas de IA", y enfatizando la importancia de los incentivos económicos en ello. La IA mal implementada está creando nuevas formas de vida inteligente independientes La IA implementada correctamente es una armadura mecánica para la mente humana Si hacemos lo primero sin lo segundo, corremos el riesgo de un desempoderamiento humano permanente. Si hacemos lo segundo, tendremos una civilización humana superinteligente y próspera - vitalik.eth (@VitalikButerin) 10 de enero de 2025 ¿Deberíamos crear agentes de IA? Por otro lado, al responder a un usuario sobre la pregunta "¿Deberían los diseños ser agentes de IA o centrarse en mejorar las capacidades humanas?", Vitalik dijo: "'Agentes' es una palabra interesante. A veces se refiere a 'IA que puede funcionar de forma autónoma y planificar complejas tareas durante días sin intervención humana', pero más a menudo se refiere simplemente a 'chatbots que reemplazan las interfaces de usuario gráficas y se convierten en la principal forma de interacción de la aplicación'. Vitalik declaró que lo último es genial. Esto coincide con un artículo que publicó en diciembre del año pasado sobre la billetera ideal. En ese artículo, exploró cómo el avance de la IA podría revolucionar la forma de interactuar, señalando la posibilidad de pasar de los modos tradicionales de clics y entrada de texto a un nuevo modo en el que "dices lo que necesitas y el robot lo hace por ti". Mencionó: A través de la entrada de lenguaje natural, el seguimiento ocular e incluso interfaces cerebro-computadora (BCI) más directas en el futuro, y el profundo conocimiento del historial del usuario (como registros de mensajes de texto, siempre que todos los datos se procesen localmente), la billetera puede comprender de manera más intuitiva las intenciones del usuario. La IA puede convertir estas intenciones en "planes de acción" concretos, es decir, una serie de operaciones on-chain y off-chain para satisfacer las necesidades del usuario. De esta manera, se reducirá considerablemente la necesidad de interfaces de usuario de terceros. Si los usuarios necesitan interactuar con aplicaciones de terceros u otros usuarios, la IA debería anticipar los riesgos potenciales y proporcionar recomendaciones de solución con el interés del usuario en mente. Vitalik agregó que idealmente, estas IA deberían ser desarrolladas por equipos diversos, formando un ecosistema abierto y diverso para satisfacer diferentes preferencias y necesidades. Abogando por el desarrollo de herramientas que mejoren la inteligencia humana A finales de diciembre del año pasado, Vitalik presentó su definición de AGI (inteligencia artificial general) y ASI (inteligencia artificial superinteligente), planteando que el AGI es una forma de inteligencia artificial lo suficientemente poderosa como para mantener el funcionamiento de la civilización de manera independiente si todos los humanos desaparecieran de repente y esta IA se subiera al cuerpo de un robot. También admitió que esta es una definición extremadamente difícil de cuantificar, pero es la intuición subyacente entre "la IA que estamos acostumbrados" y la AGI. El núcleo de esta diferencia radica en la evolución de una herramienta que depende constantemente de la entrada humana hacia una forma de vida autosuficiente. En cuanto al ASI, Vitalik lo ve como un concepto de nivel superior: alcanzar el estándar de ASI cuando la participación humana ya no aporta ningún valor al sistema. Dio el ejemplo de la IA en el ajedrez, que recién alcanzó este nivel en la última década. Reconoció abiertamente que el ASI lo asusta, e incluso su propia definición de AGI lo hace sentir incómodo, ya que estas tecnologías podrían acarrear riesgos significativos de pérdida de control humano. Por lo tanto, Vitalik tiende más a enfocarse en el desarrollo de herramientas que mejoren la inteligencia humana, en lugar de construir alguna forma de vida superinteligente. Esta postura se alinea con el punto de vista que expresó hoy: el desarrollo correcto de la IA debería equipar a la inteligencia humana con una "armadura mecánica", en lugar de crear nuevas formas de vida inteligente independientes. AGI: se refiere a la inteligencia artificial que es similar a la humana, capaz de realizar tareas en múltiples campos, no solo en aplicaciones específicas. ASI: se refiere a una forma de inteligencia artificial que supera todos los niveles de inteligencia humana, no solo en un área específica, sino en todos los aspectos. Informe relacionado: Vitalik: en la era de la IA, Deepfake...