ビタリックブテリン：正確なAIの発展は、人間の思考を「機械の装甲」にすることで超知的文明を実現する

イーサリアムの共同創業者であるヴィタリック・ブテリン氏は本日、AIの開発についてコメントし、AIの開発を誤ると、自立した自己複製の知的生命体につながる可能性があり、正しい方向は、繁栄した超知能人類文明を実現するために、人間の知能の「機械の鎧」になることであると主張した。 (あらすじ:V神はAIの発展を恐れている:人間は便利な道具を作るべきであり、知的生命体を作るべきではない) (背景補足:ヴィタリックが世界の現状を叱る:秘密資本は暗号と情報セキュリティの分野から逸脱しており、これは失敗です) 今週、Huida の CEO である Jensen Huang 氏は、CES 2025 の基調講演で「AI エージェントは数兆ドル規模の産業になる可能性を秘めている」と述べました。Kaito氏によると、AIエージェントに対するダークコミュニティの熱意に拍車をかけ、AIへの注目度は今週初めて70%近くに達しました。 Source: @sandraaleow V God: The right AI development equipped human intelligence with "mechanical armor" そして本日、イーサリアムの共同創業者であるヴィタリック・ブテリン氏も、AIの開発について次のようにコメントしています。 間違ったAI開発は、独立した自己複製の知的生命体を生み出す可能性があります。 そして、正しいAI開発は、人間の心の「機械の鎧」になることです。 前者だけを行い、後者を無視すると、人類は永久に力を失う危険性があります。 しかし、後者であれば、超知能文明の繁栄が期待できます。 後者を達成する方法について、ヴィタリックはさらに次のように説明しています。 人間の判断を抽出することは、集団レベルで後者を達成するための1つの方法です。 現在のAI映像生成ツールの多くは、単に「指示を入力して結果を待つ」のではなく、リアルタイムで緻密に制御・調整するプロセスとして、このトレンドの始まりを実証しています。 ヴィタリック氏はまた、昨年11月に執筆した記事のスクリーンショットを添付し、複雑でコストがかかり、効率的な人間の判断メカニズムを低コスト、高速、効率的に機能させるために、「情報金融」を通じて人間の判断を洗練させる方法を示しました。 彼は、ロビン・ハンソンの「予測市場」が使えるという考えを引用しています。 市場メカニズムを通じて、信頼性が高く、中立で、迅速かつ安価な方法で、他の方法では高価なメカニズムの「精製バージョン」を得ることができます(ここでは「精製」という言葉が使用されていますが、LLMの蒸留プロセスに似ています)。 時間が経つにつれて、この精錬メカニズムは、正しい結果を達成するのに役立つ参加者だけがお金を稼ぎ、他の人はお金を失うため、元のメカニズムの動作を広く模倣します。 彼が共有した内容から、彼は「人間の価値と知性をAIシステムの意思決定に効率的に統合する方法」を探求し、これにおける経済的インセンティブの重要性を強調したいのかもしれません。 AIが間違ったことをすれば、独立した自己複製する新しい形の知的生命体が作られる AIは人間の心に合うメカだ 後者なしで前者を行うと、永久的な人間を危険にさらすことになる 無力化。 もし後者なら、超知的な人類文明が繁栄する — vitalik.eth (@VitalikButerin) January 10, 2025 AIエージェントは構築すべきか? 一方、ネチズンからの「デザインの選択はエージェントベースのAIなのか、それとも人間の能力向上の中核なのか」という質問に対しては、と尋ねると、ヴィタリックは「エージェント」は興味深い言葉だと答えた。 「人間の手を介さずに何日もかけて複雑な計画を立てることができるAI」を指すこともありますが、多くの場合、単に「GUI(グラフィカル・ユーザー・インターフェース)に代わるチャットボットがアプリケーションの主要な対話手段となる」ことを指します。 ヴィタリックは、後者が素晴らしいと率直に言います。 これは、昨年12月に彼が発表した「理想のウォレット」という記事と一致しています。 その記事では、AIの進歩がインタラクションのあり方に大きな革命をもたらす可能性を探り、将来的には従来のクリック&クリック操作・入力モデルから「必要なことを言えば、ロボットがやってくれる」という新しいモデルにシフトする可能性があると指摘しています。 自然言語入力、アイトラッキング、そして将来的にはより直接的なブレイン・コンピューター・インターフェース(BCI)や、ユーザー履歴(すべてのデータがローカルでしか処理されない場合はSMSログなど)に関する深い知識により、「ウォレット」はユーザーの意図をより直感的に理解できるようになると述べています。 AIは、これらの意図を具体的な「アクションプラン」、すなわち一系列オンチェーン和オフチェーン的操作に変換し、ユーザーのニーズを実現することができます。 その結果、サードパーティのユーザーインターフェイスの必要性が大幅に減少します。 ユーザーがサードパーティのアプリや他のユーザーと対話する必要がある場合、AIはユーザーの興味を念頭に置いて開始し、潜在的なリスクを事前に検出し、提案するソリューションを提供する必要があります。 理想的には、これらのAIは異なるチームによって開発され、さまざまな好みやニーズに応える多様でオープンなエコシステムを構築する必要があるとヴィタリックは付け加えます。 12月末、ヴィタリックは、AGI(汎用人工知能)とASI(超人工知能)について議論する際に、汎用人工知能の定義を提案しました。 AGIは、ある日突然すべての人間がいなくなり、このAIがロボットの殻にアップロードされたとしても、文明の運営を独立して維持できるほど強力な人工知能です。 また、これは定量化が非常に難しい定義であることを認めていますが、これが多くの人の頭の中にある「私たちが慣れ親しんでいるAI」と「汎用人工知能」の潜在的な直感的な違いです。 常に人間の入力に依存するツールから自給自足の生命体への進化が、この違いの核心です。 ASIに関しては、Vitalik氏は、ASIの基準は、人間の参加(ヒューマン・イン・ザ・ループ)がシステムに価値をもたらさなくなったときに満たされるという、より高度な概念として捉えています。 一例として、チェスにおけるAIがこのレベルに達したのは、ここ10年ほどのことだと彼は指摘する。 彼は率直に、ASIは彼を怖がらせ、彼自身が定義するAGIでさえ、これらのテクノロジーは人間がコントロールを失う重大なリスクをもたらす可能性があると述べています。 その結果、ヴィタリックは、ある種の超知能生命体を構築するよりも、人間の知能を増強するツールの開発に集中することを好みます。 彼の立場は、正しいAI開発は人間の知性に「機械的な鎧」を施すべきであり、新しい独立した知的生命体を生み出すべきではないという、今日の彼の見解と一致しています。 AGI:人間のような知能を持つ人工知能を指し、特定のアプリケーションに限定されず、さまざまな分野でタスクを実行できます。 ASI:人間の知能のあらゆるレベルを凌駕し、特定の分野で優れた能力を持つだけでなく、あらゆる面で総合的に人間を凌駕する人工知能を指します。 関連記事 ヴィタリック:AI時代のディープフェイク...