Skip to main content

AI 整理 : Yuval Noah Harari のインタビュー

· 41 min read

前置き​

過去記事、

歴史学者 Yuval Noah Harari の凄まじかった洞察力 （追加）　 (2024-10-15)

で取り上げたインタビュー動画を AI で整理した。

なお、この記事は 本日の別記事 の露払い役として取り上げる。

概要​

AI

ホモ・デウス：人類とテクノロジーの未来

この文章は、ユヴァル・ハラリ氏の著書「ホモ・デウス」について、ポール・ケネディ氏とのインタビューをまとめたものです。**ハラリ氏は、人類が飢餓、疫病、戦争といった長年の課題を克服しつつあり、次の目標として不死、幸福、そして神性を追求する可能性を提示します。

** 彼は、21世紀にはバイオテクノロジーとアルゴリズムの発展により、人類が自らの身体や脳を「再設計」し、経済的不平等が生物学的な不平等へと転化するかもしれないという、驚くべき未来像を描いています。また、「データ主義」という新しいイデオロギーの台頭により、権威が人間からデータクラウド上のアルゴリズムへと移行する可能性も論じられており、人間がアルゴリズムに操られるといった倫理的・哲学的な問題提起がなされています。最終的に、ハラリ氏はこれらの技術的進歩が決定論的ではないとし、人類が自らの未来の方向性を選択できると強調しています。

目次​

  1. 前置き
  2. 概要
  3. 音声対話
  4. 詳細
  5. 時系列
    1. 過去 - ホモ・サピエンスの時代
    2. 近代・現代 - 人類が脅威を制御し始める時代
    3. 近未来 - ホモ・デウスへの変革期
    4. 遠未来 - ホモ・サピエンスの終焉と新たな存在
  6. 主要関係者
    1. ポール・ケネディ (Paul Kennedy):
    2. ユヴァル・ノア・ハラリ (Yuval Noah Harari):
    3. ピーター・ティール (Peter Thiel):
    4. レイ・カーツワイル (Ray Kurzweil):
    5. チャールズ・ダーウィン (Charles Darwin):
    6. デイヴィッド・コープ (David Cope):
    7. ヨハン・セバスチャン・バッハ (Johann Sebastian Bach):
    8. イ・セドル (Lee Sedol):
    9. アルファ碁 (AlphaGo):
  7. 生命はアルゴリズム

音声対話​

AI

https://notebooklm.google.com/notebook/02a610c8-c5e8-47f6-82fe-00ce82dd7f95/audio

詳細​

AI

要約：ユヴァル・ノア・ハラリ氏の「ホモ・デウス」における主要テーマと重要な考察

このブリーフィング文書は、ユヴァル・ノア・ハラリ氏の著書「ホモ・デウス：人類とテクノロジーの未来」に関するインタビューに基づいています。ハラリ氏は、人類の過去の主要な課題である飢饉、疫病、戦争が、かつてないほど制御下に置かれつつあると主張し、その上で人類の次の目標が不死、幸福、そして神性へと移行すると予測しています。

  1. 飢饉、疫病、戦争の終焉と新たな目標 ハラリ氏は、歴史上初めて、飢饉、疫病、戦争による死亡者数が大幅に減少していると指摘します。

  • 飢饉: 「今日、歴史上初めて、少食で亡くなる人よりも、食べ過ぎで亡くなる人の方が多くなっています。」飢饉はもはや「自然の飢饉」ではなく、「政治的な飢饉」であり、食糧不足ではなく政治的意図によって引き起こされると述べています。

  • 疫病: 伝染病による子供の死亡率は史上最低レベルにまで低下しており、エボラ出血熱のような新たな流行病も「約3ヶ月以内に制御下に置くことができました。」これは過去の黒死病のような壊滅的なパンデミックとは全く異なる状況だと説明します。

  • 戦争: 「今日、世界のどこでも、人間による暴力による死亡率は約1%か、少し多い程度です。」カナダのような国では、テロよりもファストフードを食べすぎることによる死亡リスクの方がはるかに高いと具体例を挙げます。かつて戦争の「一時的な不在」を意味した平和は、現在では「戦争の非現実性」を意味すると強調しています。

これらの課題が克服されつつあることで、人類は新たな目標、すなわち不死、幸福、神性を追求し始めるとハラリ氏は予測しています。

  1. 不死の追求と生物学的不平等の可能性

「人類の次の目標は、おそらく不死、幸福、そして神性になるでしょう。」

  • 死の技術的問題化: ハラリ氏は、死を「神が定めた形而上学的な布告」ではなく、「技術的な問題」と捉え、「あらゆる技術的問題には、少なくとも原理的には技術的な解決策がある」と述べています。

  • 延長された人生: シリコンバレーでは「不死」が最も注目される言葉の一つであり、Googleのような企業も死の克服を目指しています。これは「100万歳まで生きる一回限りの薬」ではなく、「健康な状態でさらに10年間生きる」という、繰り返し可能な契約としての寿命延長として捉えられています。

  • 生物学的不平等の到来: この技術が広く普及した場合、「生物工学は、歴史上初めて、経済的不平等を生物学的不平等に変換するでしょう。」これまでの不平等が社会的、経済的、政治的なものであったのに対し、将来は「金持ちは貧しい人々に本当に優位な身体的、精神的能力を享受する」ことで、人類が「異なる生物学的階級に分裂する」可能性があると警告しています。これは「恐ろしい新世界」であり、元のソースでは「ディケンズの英国とマハディのスーダンの間の隔たりよりもはるかに大きい」と表現されています。

  1. 人類の神格化と非有機生命体の創造

人類は「ホモ・サピエンスをホモ・デウスにアップグレードすることを目指すでしょう。」

  • 神性の獲得: 「人間は21世紀に自分自身を神にアップグレードしようとするだろうが、これは比喩ではない。文字通りそう言っているのだ。」創造し、生命を設計する能力が神の定義であるならば、人類は遺伝子工学を通じてこの能力を獲得しつつあります。
  • 経済の主要製品の変化: 21世紀の経済の主要製品は「繊維や自動車や兵器ではなく、身体や脳や精神になるだろう」と予測しています。
  • 非有機生命体の創造: 人類は40億年の進化を経て、「最初の非有機人工知能実体を創造する」過程にあり、これは「伝統的な神々」をも超える存在となる可能性を示唆しています。ハラリ氏は、人類が「神々を創造する神々」になる可能性すらあると述べています。
  1. 人間中心主義の終焉とアルゴリズムの台頭
  • 意識と知性の分離: ハラリ氏は、人工知能（AI）がますます多くのタスクで人間を凌駕し、「膨大な数の無用な階級」を生み出す可能性があると述べています。さらに危険なのは、「知性が意識から切り離される」ことだと指摘します。知性は「問題を解決する能力」であり、意識は「物事を感​​じる能力、主観的な経験を持つ能力」です。コンピュータは驚異的な知性を持っているにもかかわらず、「コンピュータの意識には全く進歩がない」と強調しています。
  • 意識の市場価値の欠如: 「市場の観点から見ると、意識には全く価値がない。」タクシー運転手の例を挙げ、市場が求めるのは知性であり、意識は「パッケージとして付いてきたもの」に過ぎないと考えています。自動運転車は人間よりも安全で効率的であり、意識は必要とされません。
  • アルゴリズムによる意思決定: 将来、人間がアルゴリズムに職を奪われるだけでなく、権威もアルゴリズムへと移行すると予測しています。「外部のアルゴリズムが、私自身が自分を理解するよりも良く私を理解する」ようになることで、意思決定の権限は人間から「Googleクラウド、Microsoftクラウド」のようなアルゴリズムへと移るとしています。
  • 哲学的な問題の実用化: 自動運転車の倫理的ジレンマ（5人を救うために運転手を犠牲にするか）の例を挙げ、これまで哲学者が議論してきた問題が、アルゴリズムのプログラミングを通じて「日常生活における実践的な問題」になると指摘しています。
  1. データ教（Dataism）の台頭
  • 新たなイデオロギー: 21世紀の大きな問題（バイオテクノロジーによる赤ちゃんの設計、AIによる失業、生物学的階級への分裂など）には、聖書やコーランには答えがなく、「新しいイデオロギー、新しい宗教」が必要になるとハラリ氏は主張します。
  • データ崇拝: その中で最も重要なのが「データ教（Dataism）」であり、これは「神や人間ではなく、データを崇拝する宗教やイデオロギー」です。データ教は、「十分な生体データと十分な計算能力があれば、外部のアルゴリズムが私自身が自分を理解するよりも良く私を理解できる」と信じます。
  • 経験のデータ化: データ教徒は「経験は共有されなければ価値がない」と信じ、「私たち自身の中に意味を見出す必要はなく、ただ私たちの経験を巨大なデータフローに記録し接続すれば、アルゴリズムがその意味を発見し、私たちに何をすべきかを教えてくれるだろう」と考えます。Kindleの読書データと生体センサーを組み合わせることで、Amazonが読者の感情を完全に理解し、行動を予測できるようになるという例を挙げています。
  1. 自己認識の重要性

ハラリ氏は、未来の課題に対抗するために「自分自身をよりよく知る」ことの重要性を強調しています。「アルゴリズムと競争したいなら、アルゴリズムがあなたを知る以上にあなたがあなた自身を知っているかどうかが問われる。」これは「自分を知る」という古くからの助言が、かつてないほど重要になることを意味します。

  1. 決定論ではない未来と行動の呼びかけ ハラリ氏は、本書で描かれた未来像が「予言」ではなく「可能性」であると繰り返し強調します。
  • 「ホモ・デウスが記述しているすべてのことは予言ではない。単に異なる可能性をマッピングしているだけだ。」
  • 「テクノロジーは決定論的ではない」とし、同じ技術でも異なる社会システムを生み出すことができると述べています。
  • もし望ましくない未来があるのであれば、「まだ何かできることがある」と述べ、市場原理に任せるのではなく、「政治的な選択」によって発展を異なる方向へ導くことができると示唆し、これは「行動への呼びかけ」であると述べています。
  1. 人間とは何か？意識と自由意志の再考
  • 人間はアルゴリズム: ハラリ氏は、「有機体はアルゴリズムである」という生物学研究の結論を提示し、人間も「生化学的反応と体内での計算によってアルゴリズム的に意思決定する」と説明します。感情は「生化学的計算」の結果であり、バブーンの例を使って、危険回避や食料獲得のための確率計算として感情が機能すると説明しています。
  • 「自己」の幻想: 「単一の真の自己は、永遠のキリスト教の魂やサンタクロース、イースターバニーと同じくらい現実的だ。」と述べ、自己は「フィクションの物語」であり、その物語に人々はしがみついていると指摘します。
  • 意識の未解明: 科学は、脳がどのように意識を生み出すのかをまだ説明できていないことを認めています。「何十億ものニューロンが互いに電気信号を発射するとき、どのようにして愛や憎しみ、痛みや喜びといった主観的な経験が生まれるのか、全くわからない。」と述べていますが、これは過去の神話的な説明に戻る理由にはならないとし、意識に関する研究への投資をさらに増やすべきだと主張しています。

ハラリ氏は、人類が「ホモ・サピエンス」という名の駅を出発する「最後の列車」に乗るのか、それとも取り残されるのか、その分岐点に立っていると結論付けています。この列車に乗るためには、バイオテクノロジーとコンピュータアルゴリズムの力を理解し、それによってもたらされる「創造と破壊の神聖な能力」を獲得する必要があります。取り残された者は「絶滅に直面する」という厳しい選択を提示しています。

時系列​

AI

このタイムラインは、ユヴァル・ハラリ氏の著書『ホモ・デウス』で語られる、過去から未来への人類の発展と課題についての見解をまとめたものです。

過去 - ホモ・サピエンスの時代​

数千年前から現代まで:​

  • 人類にとっての最大の脅威は飢餓、疫病、戦争であった。特に飢餓は数千年にわたり最大の脅威であり、疫病（黒死病など）は人口の1/4から1/3を奪った。暴力による死亡は全死亡の約10%を占めた。
  • この時代、「平和」は一時的な戦争の不在を意味した。
  • 人々は「宇宙のドラマ」の一部として生き、自身の役割は神によって決定されるものと信じていた。これにより、彼らの人生には意味が与えられたが、変革の力はほとんどなかった。
  • 伝統的な社会や宗教では、人間の意思決定は魂や霊といった精神的な本質によるものと信じられていた。
  • バビロニア人は農業生産の向上を神に期待し、雨や豊穣、害虫からの保護を求めた。

近代・現代 - 人類が脅威を制御し始める時代​

過去数十年:​

  • 医学の進歩により、感染症による子供の死亡率が史上最低水準に減少。
  • エボラ出血熱のような疫病も、かつての黒死病のような壊滅的な影響は回避される。
  • 暴力による死亡は全世界で約1%にまで減少。多くの地域で「平和」は戦争の非現実性を意味するようになる（中東などの例外を除く）。
  • 近代化の「取引」が成立：人類は「意味」を手放す代わりに「力」を獲得する。宇宙に意味や計画がないと認識することで、自身の行動や知識の限界が唯一の制約となる。
  • ヒューマニズムが台頭：自分の内面、感情、思考に接続することで、個人が宇宙全体に意味を与えるという考え方が支配的になる。

現代（現在）:​

  • 「食べ過ぎ」による死亡者数が「食べなさすぎ」による死亡者数を上回る。
  • 「老齢」による死亡者数が「感染症」による死亡者数を上回る。
  • 「自殺」による死亡者数が「戦争、犯罪、テロ」を合わせた数を上回る。
  • 自然発生的な飢餓は存在せず、すべて「政治的飢餓」となる。
  • 生物学の研究が進み、チャールズ・ダーウィン以来の150年の研究が「有機体はアルゴリズムである」という結論に達する。感情は生化学的な計算の結果として理解される。
  • ディズニー映画『インサイド・ヘッド』が、人間の意思決定が内部の生化学的メカニズムによって行われることを示唆する。
  • AIの能力がますます多くのタスクで人間を上回り、将来的に多くの人間の職を奪い「無用者階級」を生み出す可能性が指摘される。
  • コンピュータの知能は飛躍的に進歩しているが、意識（主観的な感情を抱く能力）においては進歩が見られない。
  • GoogleのCalicoやPeter Thielのような企業・個人が「死を克服する」ことを公然と目標に掲げる。
  • データ主義が新たなイデオロギーとして台頭し、データとアルゴリズムが人間や神に代わる権威となる可能性が示唆される。
  • AIが音楽（EMI）や囲碁（AlphaGo）で人間を凌駕し、その創作物や戦略が人間と区別できなくなる、あるいは人間の理解を超えたものとなる。
  • Kindleなどのデバイスが読者の生体データを収集し、感情的な反応を分析することで、人間よりもその人を理解する可能性が生まれる。

近未来 - ホモ・デウスへの変革期​

21世紀（予測）:​

  • 人類の次の大きな目標が「不死」「幸福」「神性」となる。
  • 飢餓、疫病、戦争の脅威が「完全に制御可能」になる可能性が高い。
  • 老齢、ひいては死そのものを克服することを目指す。
  • 人間を「神」にアップグレードし、ホモ・サピエンスをホモ・デウスへ変貌させることを目指す。これは比喩ではなく、生命を創造・設計する能力を獲得することを意味する。
  • 経済の主要な製品が、繊維、自動車、武器から「身体、脳、精神」へと変化する。
  • 人類が40億年の有機的生命の歴史を経て、初の無機的な人工知能（AI）エンティティを創造する可能性が高い。これは「神を超えた神」の創造を意味する。
  • 「永遠の若さ」を求める市場が21世紀最大の市場となる可能性がある。
  • バイオテクノロジーにより、経済的不平等が初めて「生物学的不平等」へと転換する可能性がある。富裕層が優れた身体的・精神的能力を享受し、人類が異なる生物学的階級に分裂するかもしれない。
  • この変化は避けられない「予言」ではなく、「可能性」であり、市場原理に任せるか、政治的な選択をするかによって異なる結果を生む。
  • 人工知能が人間を労働市場から完全に排除し、「無用者階級」が生まれる可能性がある。
  • 知能と意識の分離が進み、意識のない超知能が普及する未来の可能性が示唆される。これは地球だけでなく、銀河全体に広がるかもしれない。
  • 自動運転車の普及により、交通事故が激減するが、同時にアルゴリズムによる倫理的判断（例：トロッコ問題）が現実の問題となる。
  • 宗教的原理主義は21世紀の大きな問題（遺伝子設計、AIによる失業、生物学的階級分裂など）への答えを提供できないため、影響力を失う可能性がある。
  • シリコンバレーのような場所から新しいイデオロギーや宗教が生まれる可能性がある（例：データ主義）。
  • テクノ・ヒューマニズムが、技術を用いてホモ・デウスを創造し、人間が非意識的なアルゴリズムに対抗できる精神能力を獲得すべきだと提唱する。

遠未来 - ホモ・サピエンスの終焉と新たな存在​

200年後（予測）:​

  • 現在のようなホモ・サピエンスが存続している可能性は非常に低い。
  • 人類は自らを滅ぼすか、あるいは全く異なる存在へとアップグレードされるかのどちらかとなる。
  • 「死」は形而上学的なものではなく、「技術的な問題」として認識され、技術的な解決策が見出される。
  • 人類は初めて、自身の身体や脳そのものを根本的に変化させることに着手する。
  • 進歩の「最終列車」に乗り遅れた者は、ホモ・サピエンスという種としては絶滅する可能性に直面する。この列車に乗るためには、バイオテクノロジーとコンピュータアルゴリズムの力を理解する必要がある。

主要関係者​

AI

ポール・ケネディ (Paul Kennedy):​

  • ラジオ番組「Ideas」の司会者。ユヴァル・ハラリ氏へのインタビューを通じて、彼が著書『ホモ・デウス』で提示する人類の未来像について深掘りする。

ユヴァル・ノア・ハラリ (Yuval Noah Harari):​

  • イスラエル出身の著名な思想家、歴史家。
  • 著書『サピエンス全史』で国際的なセンセーションを巻き起こし、30ヶ国語に翻訳された。
  • 新作『ホモ・デウス』では人類の未来、特に飢餓、疫病、戦争の克服後の人類の新たな目標（不死、幸福、神性）について考察している。
  • 人間が技術によって「神」にアップグレードされ、ホモ・サピエンスからホモ・デウスへと進化する可能性を提唱。
  • 人工知能が人間社会に与える影響、特に知能と意識の分離、そして「無用者階級」の出現について警鐘を鳴らす。
  • 現代のヒューマニズムが「自己」という概念を誤解していると考え、生物学的な観点から「自己」は生化学的アルゴリズムの集合体であると主張。
  • 瞑想（ヴィパッサナー瞑想）を実践し、自己の現実を深く理解しようと努めている。
  • テクノロジーは決定論的ではないが、市場原理に任せると生物学的な不平等を招く「すばらしい新世界」につながる可能性があると警告する。

ピーター・ティール (Peter Thiel):​

  • Googleの共同創設者の一人。
  • 具体的に「老齢と死を克服する」ことを目指していると、ユヴァル・ハラリによって言及されている人物。

レイ・カーツワイル (Ray Kurzweil):​

  • 著名な未来学者、発明家。
  • ユヴァル・ハラリが、彼の提唱する不死の概念（「薬を飲んで100万歳まで生きる」のではなく「10年単位で健康寿命を延長する」）を説明する際に言及している。
  • 人工知能と人間の知能の融合を意味する「シンクロニシティ」という言葉を使っているとポール・ケネディが言及。

チャールズ・ダーウィン (Charles Darwin):​

  • 自然選択説を提唱した生物学者。
  • ユヴァル・ハラリが、生命科学の150年の研究が「有機体はアルゴリズムである」という結論に達したことを説明する際に、彼の名前を挙げている。

デイヴィッド・コープ (David Cope):​

  • カリフォルニア大学の音楽学者。
  • 音楽を創造できるコンピュータプログラム「EMI」を発明した人物。
  • 彼のプログラムが作曲した曲が、専門家にもバッハの作品と誤解された例が挙げられている。

ヨハン・セバスチャン・バッハ (Johann Sebastian Bach):​

  • 著名な作曲家。
  • デイヴィッド・コープのAIプログラム「EMI」が作曲した音楽との比較対象として、その作品が聴衆に提示された。多くの聴衆が、AIの曲をバッハ作と誤解した。

イ・セドル (Lee Sedol):​

  • 囲碁の世界チャンピオン。
  • 人工知能AlphaGoと対局し、4対1で敗北した。この出来事はAIの能力を示す象徴的な事例として言及されている。

アルファ碁 (AlphaGo):​

  • 人工知能の一種。
  • 囲碁の世界チャンピオンであるイ・セドルを破り、その学習能力と戦略で囲碁の専門家を驚かせた。基本的なルールだけを教えられ、自己学習によって世界チャンピオンを凌駕した。

生命はアルゴリズム​

AI

生命とアルゴリズムというより大きな文脈において、ユーヴァル・ハラリは、生命体、特に人間は根本的にアルゴリズムとして機能するという画期的な概念を提示しています。これは、伝統的な自己認識や意思決定の理解に深く挑戦するものです。

この概念の要点は以下の通りです。

  • 生命体はアルゴリズムである：チャールズ・ダーウィン以来の約150年間の生物学的研究は、「生命体はアルゴリズムである」という結論に要約できるとされています。これは、トマトやキリン、ホモ・サピエンスを含むすべての生命体が、スピリチュアルな本質によってではなく、生化学的反応と体内での計算というアルゴリズム的な方法で意思決定を行うという意味です。
  • 意思決定のアルゴリズム的性質：意思決定は、環境や自分自身に関する大量のデータを収集し、それに基づいて確率を計算するプロセスとして説明されます。
    • 例えば、サバンナのヒヒがバナナの木とライオンに直面する状況が挙げられます。ヒヒはバナナの量や熟度、ライオンの距離や状態、自身の走る速さや空腹度などのデータを取り込みます。
    • ヒヒの体全体と神経系、脳がこの「計算機」として機能します。感覚や感情は、データを収集し、計算を行い、結論に達する方法と見なされます。
    • 計算の結果は、数字としてではなく、感情として現れます。例えば、バナナを取りに行く確率が肯定的であれば「勇気」という感情が、否定的であれば「恐怖」という感情として現れます。感情は、神などから来るスピリチュアルな現象ではなく、生化学的な計算であると説明されています。
  • 「自己」の概念への挑戦：
    • 生命体がアルゴリズムであるという見方は、伝統的な「個」としての自己の概念を根底から揺るがします。生命科学は、私たちが当たり前だと思っている見かけの統一性が、実は「矛盾する声の不協和音」に溶解すると結論付けています。つまり、人間は「個」ではなく、「分人（dividuals）」であると表現されます。
    • 人々は自分自身に関する物語を構築し、それに非常に執着しますが、この物語は「幻想であり、ファンタジー」であるとされています。それは全体の人間の社会が神や国家などの架空の物語によって制御されているのと同様に、各個人もまた、本来架空の単一の包括的な物語への信念によって制御される内部のエンティティの集合体であると説明されます。
    • ディズニー映画「インサイド・ヘッド」が例として挙げられ、これは子供たちに、内なる声に耳を傾けるという伝統的なヒューマニズムのファンタジーではなく、主人公のライリーが単なるロボットであり、その頭の中には生化学的なメカニズムがあるだけであることを示していると指摘されています。
  • 意識（Consciousness）の未解明な側面：
    • このアルゴリズム的な視点は、知性（Intelligence）と意識（Consciousness）を切り離して考えます。知性とは問題解決能力であり、意識とは痛みや喜び、愛、憎しみなどの主観的な経験を感じる能力です。
    • 哺乳類や人間においては、知性と意識は共存してきましたが、これは知的な人間が常に感情を伴っていたためであり、知性が感情に頼って問題を解決してきたからです。しかし、AIにおいてはこれは当てはまりません。
    • 過去60年から70年の間に、コンピューターの知性は飛躍的に進歩しましたが、コンピューターの意識は全く進歩していません。コンピューターは非常に知的になるかもしれませんが、完全に意識を欠いたままであり続ける可能性があります。
    • この「生命体はアルゴリズムである」という科学的ドグマは、意識がどのように生まれるのかを説明できていません。何十億ものニューロンが電気信号を発することで、どのようにして愛や憎しみ、痛み、喜びといった主観的な経験が生まれるのか、科学は現在のところ全く分かっていません。これは、古い神話的な物語が正しいという意味ではなく、さらなる研究が必要な領域であると述べられています。
  • 市場における意識の価値：市場の観点から見ると、意識は全く価値がなく、知性が重視される傾向にあります。例えば、タクシー運転手の例では、運転能力という知性が必要なのであって、感情は必要とされません。AIは人間よりも安全かつ安価に運転できるため、意識を持たないAIが人間にとって代わるだろうと予測されています。
  • データイズムと権威の移行：人間がアルゴリズムであるという理解は、新しいイデオロギーである「データイズム」の台頭を支えます。データイズムは、十分な生体認証データと十分な計算能力があれば、外部のアルゴリズムが人間自身よりも人間を理解できると主張します。これにより、権威は個々の人間からこれらのアルゴリズムへと移行し、重要な決定はアルゴリズムによって行われるようになると予測されています。
    • これは、Kindleが読者の読書習慣、表情、さらには生体センサーを通じて感情的な影響を把握し、Amazonが読者の感情的な「ボタンを押す」方法を知るようになる例で説明されます。
  • 未来への警告と挑戦：このような世界では、知性を持つが意識を欠いた存在が広がる可能性があり、これは「非常に恐ろしいシナリオ」だと述べられています。このような状況で人間がアルゴリズムに対抗するためには、「アルゴリズムがあなたを知っているよりも、あなたが自分自身をよく知っているか？」という問いが重要になると強調されています。

(2025-07-19)