メインコンテンツまでスキップ

Yuval Noah Harari : AI時代における情報と独裁の力学

· 約110分
gh_20260709_collapse_truth.jpg

（全体俯瞰 : AI 生成） click で拡大

title （情報源）

前置き＋コメント​

Yuval Harari の最近の発言を整理した。

Harari も本当に凡庸に成り下がったなぁ…と感じさせるのが

情報の洪水の中から真実を見つけ出すためには、学術研究機関や報道機関（新聞など）のような、真実の探求に多大な労力を投資する制度（機関）を構築し、支援する必要があります。こうした制度なしに情報だけを氾濫させれば、希少な真実は偽情報やジャンク情報に圧倒されてしまいます。

ref: 真実への投資と制度の構築

という主張。その「報道機関（新聞など」）こそが クリック/視聴率 を通した金稼ぎ目的で事あるごとに扇動し、「偽情報やジャンク情報」を氾濫させている側なのに。大規模に火を放ちまくっている放火犯に消防士をやらせてどうする。

そういった「偽情報やジャンク情報」の現場こそ、真っ先に AI の出番だろうが。それなのに

私たちが真実を確保し、理知的な対話を保護するためには、人間のふりをするフェイク人間（ボット）を禁止し、AIが会話に参加する際は自らがAIであることを明示させなければなりません。

とあらぬ方向から筋違いの主張をしている。

以下の発言、

無謬性を主張する伝統的宗教

...

例えば、聖書の十戒は隣人の奴隷をむやみに欲しがることを禁じており、神が奴隷制度そのものを容認しているという道徳的な過ちを含んでいます

について具体的に確認した（要展開）。

展開 : 確認内容

Me: 旧約聖書において、奴隷制を容認したり、奴隷制を前提とした記述を具体的に列挙して。なお、護教論的な解釈やその逆の攻撃的な解釈は交えないで。あくまでテキストに忠実に列挙して。

ChatGPT:

旧約聖書の本文をそのまま読んだ場合、奴隷制（ヘブライ人奴隷・外国人奴隷の双方）は廃止されるべき制度としては描かれていません。むしろ、既存の社会制度として前提に置き、その売買・所有・解放・処遇について規定しています。

以下、解釈を加えず、主な箇所をテーマ別に列挙します。

1. 奴隷を購入・所有できることを前提とする規定​

出エジプト記 21:2–6​

ヘブライ人奴隷について。

  • ヘブライ人奴隷は6年間仕え、7年目に解放される。
  • 妻や子供の扱いは主人との契約状況による。
  • 奴隷自身が主人を愛して残留を望む場合、耳に穴を開けられ、「永久の奴隷」となる。

要点

  • 奴隷制度そのものを否定していない。
  • 契約によって終身奴隷になる制度がある。

レビ記 25:39–43​

貧困によって同胞が身売りした場合。

  • 同胞を「奴隷として酷使してはならない」。
  • 雇人のように扱う。
  • ヨベルの年に解放される。

要点

  • 同胞には比較的保護的な規定。

レビ記 25:44–46​

外国人奴隷について。

あなたがたの男女の奴隷は、周囲の国々から買い取ることができる。

さらに、

彼らを子孫に相続財産として残し、永久に奴隷として用いることができる。

要点

  • 外国人奴隷の購入を認める。
  • 世襲財産として相続できる。
  • 「永久」という語が用いられる。

これは旧約聖書中でも、奴隷所有について最も直接的な記述の一つです。

2. 奴隷の売買​

出エジプト記 21:7–11​

娘を奴隷として売る場合。

父親は娘を奴隷として売ることができる。

主人には一定の義務がある。

創世記 37章​

ヨセフは兄弟によって

  • 銀20枚で売られる。

買い手

  • イシュマエル人商人
  • エジプトのポティファル

これは物語ですが、人身売買が社会制度として存在することを前提としている描写です。

3. 奴隷への身体的懲戒​

出エジプト記 21:20–21​

主人が奴隷を杖で打った場合。

  • 即死したなら処罰される。
  • 一日二日生き延びたなら処罰されない。

理由として

彼は主人の財産だからである

と記されています。

出エジプト記 21:26–27​

主人が奴隷の

  • 目
  • 歯

を損傷した場合、

奴隷は自由を得る。

4. 逃亡奴隷​

申命記 23:15–16​

逃亡してきた奴隷について。

  • 主人へ送り返してはならない。
  • 本人の望む場所に住ませる。

これは古代近東法としては比較的珍しい規定とされていますが、本文自体は「逃亡奴隷への対応」を定めています。

5. 奴隷は財産として数えられる描写​

出エジプト記 20:17​

（十戒）

隣人の

  • 家
  • 妻
  • 男奴隷
  • 女奴隷
  • 牛
  • ろば

などを欲しがってはならない。

奴隷が家産の一部として列挙されています。

申命記 5:21​

十戒の並行箇所。

同様に

  • 男奴隷
  • 女奴隷

が財産一覧に含まれます。

6. 財産目録としての奴隷​

創世記 12:16​

アブラハムが

  • 羊
  • 牛
  • ロバ
  • 男奴隷
  • 女奴隷

を得る。

創世記 24:35​

アブラハムの富として

  • 羊
  • 牛
  • 奴隷

が列挙される。

ヨブ記 1:3​

ヨブの財産として

  • 羊
  • 牛
  • らくだ
  • 奴隷

が数えられる。

7. 奴隷の解放​

申命記 15:12–18​

ヘブライ人奴隷は

6年で解放する。

解放時には

  • 羊
  • 穀物
  • 酒

などを持たせる。

8. 奴隷の数を祝福として描く記述​

例えば

創世記 30章​

ヤコブは

  • 家畜
  • 奴隷

を増やして富裕になる。

創世記 26章​

イサクにも

  • 奴隷
  • 家畜

が増える描写があります。

9. 戦争捕虜との関係​

民数記 31章​

ミディアン人との戦いの後、

女性や子供を捕虜として扱う場面があります。

本文では戦利品として人数が数えられ、財産とともに分配されます。

（ここでは「奴隷」という語が常に用いられるわけではありませんが、後の労働・所有の対象となることが前提となっています。）

10. 奴隷という語が日常的に使われる例​

旧約では

  • 王の奴隷
  • 家の奴隷
  • 女奴隷
  • 若い奴隷

などが頻繁に登場し、

王侯・富豪・族長が奴隷を所有していることは、ごく通常の社会描写として扱われています。

テキスト上で確認できる内容の整理​

旧約聖書本文から直接読み取れる事項だけを整理すると、次のようになります。

内容本文にあるか
奴隷制度の存在を前提にしているはい
奴隷を売買できるはい
外国人奴隷を購入できるはい（レビ記25:44–46）
外国人奴隷を相続財産にできるはい
ヘブライ人奴隷は原則6年で解放はい
終身奴隷制度があるはい
奴隷への身体的懲戒を規定はい
奴隷を財産として数える表現はい
奴隷制度そのものを全面禁止する規定本文には見当たりません

以上は、本文に現れる法規・叙述を、そのまま整理したものです。護教的・批判的評価は加えていません。

以下、情報源を NotebookLM で整理した内容。

要旨​

歴史学者のユヴァル・ノア・ハラリ氏は、現代社会が直面する危機の根本的な原因は人間の性質ではなく、‌‌情報の質とネットワークの構造‌‌にあると説いています。

人間は‌‌物語を共有して協力する‌‌能力を持ちますが、AIという‌‌「エイリアン・インテリジェンス（異質な知性）」‌‌の台頭により、人間が制御できない物語や意思決定が社会を支配し始めるリスクが生じています。

かつての書き置きや活版印刷が社会を変えたように、AIは‌‌絶え間ない監視やプライバシーの消滅‌‌をもたらし、独裁体制を強化したり民主的な対話を分断したりする恐れがあります。これに対しハラリ氏は、間違いを認めて修正できる‌‌自己修正機能を持った制度‌‌の構築と、情報の真偽を見極める‌‌専門機関への投資‌‌の重要性を強調しています。

私たちは精神の健康を守るために、質の低い情報を遮断する‌‌「情報のダイエット」‌‌を行い、意識的に思考を管理すべきであると結論付けています。

@@ no search index start

目次​

  1. 前置き＋コメント
  2. 要旨
  3. ユヴァル・ノア・ハラリ：高度な文明がなぜ「集団的妄想」に陥るのか —— ブリーフィング資料
    1. エグゼクティブ・サマリー
    2. 1. 人類の自己破壊性と「情報の質」
    3. 2. 物語（ストーリーテリング）による大規模協力
    4. 3. AI：人工知能から「エイリアン知性（Alien Intelligence）」へ
    5. 4. 情報テクノロジーと社会構造の変遷
    6. 5. 有機的ネットワーク vs. 無機的ネットワーク
    7. 6. 自己修正メカニズムの重要性
    8. 7. AI時代の政治的リスク
    9. 8. 結論と提言
  4. ユヴァル・ノア・ハラリの歴史的・技術的分析
  5. 人類の矛盾と情報の課題
    1. 人類の矛盾：なぜ賢い人類が自滅の危機にあるのか
    2. 情報の課題：真実と権力の力学
    3. 『Nexus』の文脈における情報ネットワークの歴史とAIの脅威
    4. 解決策：自己修復機能と情報ダイエット
  6. ストーリーテリング（物語）の力
    1. ストーリーテリングと大規模な協力の基盤
    2. 『Nexus』の文脈における物語とAI（エイリアン・インテリジェンス）
  7. AI：エイリアン知能の台頭
    1. 「人工」ではなく「エイリアン（異質）」な知性
    2. 未知の大陸を発見するAI：AlphaGoの事例
    3. 情報ネットワークの無機質化と「決断するテクノロジー」
    4. 独裁主義と民主主義におけるAIの力学
  8. 情報技術の歴史的変遷
    1. 情報技術が社会と政治を形成する歴史的変遷
    2. 情報ネットワークの歴史的転換点：AIと無機的ネットワーク
  9. 有機的 vs 無機的ネットワーク
    1. 有機的ネットワーク：休息とプライバシーを生む人間の限界
    2. 無機的ネットワーク：休息のないAIとプライバシーの消滅
    3. ネットワーク構造の変化がもたらす致命的な影響
  10. 自己修正メカニズムの重要性
    1. 自己修正メカニズムの定義と機能
    2. 情報ネットワークにおける自己修正：民主主義と独裁主義
    3. 科学と宗教・神話の対比
    4. AI時代における自己修正メカニズムの絶対的必要性
  11. 政治体制とAIの未来
    1. 情報ネットワークとしての政治体制
    2. AIがもたらす全体主義の強化と破滅的リスク
    3. 民主主義の危機：「対話」のハイジャックと保護
  12. 情報と真実への向き合い方
    1. 情報は真実ではないという最大の誤解
    2. 社会レベルでの向き合い方：真実を探求する機関と対話の保護
    3. 個人レベルでの向き合い方：「情報ダイエット」
  13. 粘土板からAIへ：情報技術が書き換えた「社会のOS」と権利の歴史
    1. 1. 導入：なぜ人類は「賢いのに愚か」なのか？
    2. 2. 基盤概念：世界を動かす「物語（ストーリーテリング）」の力
    3. 3. 歴史的転換点①：粘土板（書記術）と中央集権の誕生
    4. 4. 歴史的転換点②：マスメディアと20世紀の極端な体制
    5. 5. 現代の変容：AIという「エイリアン・インテリジェンス」
    6. 6. 比較解説：情報ネットワークとしての「独裁」vs「民主主義」
    7. 7. 結論と提言：情報の洪水の中で「真実」を守るために
  14. 情報源

@@ no search index stop

ユヴァル・ノア・ハラリ：高度な文明がなぜ「集団的妄想」に陥るのか —— ブリーフィング資料​

本資料は、歴史学者ユヴァル・ノア・ハラリ氏が、著書『Nexus（ネクサス）』に基づき、情報ネットワークの歴史とAI（人工知能）が人類社会に及ぼす影響について分析した内容をまとめたものである。

エグゼクティブ・サマリー​

人類は月への到達やDNAの解読といった高度な知性を持ちながら、一方で生態系の崩壊や核戦争、制御不能なAIといった自己破壊的な危機に直面している。ハラリ氏はこのパラドックスの原因を「人間の本性」ではなく「情報の質」にあると指摘する。

歴史的に、大規模な協力体制を構築するためには、客観的な事実（科学的知識）だけでは不十分であり、宗教、イデオロギー、貨幣といった「物語（ストーリーテリング）」が必要であった。しかし、AIの登場により、人類史上初めて「自ら物語を生成し、自律的に意思決定を行う非人道的な知性（エイリアン知性）」が誕生した。この無機的な情報ネットワークは、プライバシーの消滅や民主的対話の崩壊を招く恐れがある。

人類がこの危機を乗り越えるためには、過たを正す「自己修正メカニズム」を備えた機関を構築し、情報の「真実性」を維持するための投資と、ボット（偽の人間）の排除、そして個々人の「情報ダイエット」が必要不可欠である。

1. 人類の自己破壊性と「情報の質」​

人類が直面している最大の問題は、知能の高さにかかわらず「愚かな」決断を繰り返している点にある。

  • 問題の所在: 伝統的な神話や神学では、自己破壊性は「人間の本性に欠陥があるため」とされてきた。しかし、実際の問題は「情報の質」にある。善良で賢明な人々であっても、悪い情報を与えられれば、悪い決断を下す。
  • 歴史的停滞: 数千年にわたる文明の進歩にもかかわらず、情報の質は向上していない。20世紀や21世紀の高度な社会であっても、石器時代の部族と同様に、集団的妄想や精神病、あるいはスターリニズムやナチズムのような破壊的イデオロギーに陥りやすい。

2. 物語（ストーリーテリング）による大規模協力​

大規模な集団を動かすためには、事実以上のものが必要となる。

  • 事実と動機: 例えば原爆を作るには物理学の事実（E=mc²）が必要だが、それだけでは何百万人もの人々（科学者、鉱員、建設者、農民）を協力させることはできない。
  • 物語の役割: 人々を動機づけるのは、宗教的物語、神学、あるいは共産主義や資本主義といった世俗的イデオロギーである。
  • 権力の構造: 物理学の事実を知る専門家に対して命令を下すのは、常に「物語の専門家」（シーア派神学者や共産主義イデオロギーの専門家など）である。
  • 貨幣と企業: これらも物理的事実ではなく、物語である。ドル紙幣自体には客観的価値はないが、中央銀行や投資家が語る「価値がある」という物語を数百万人が信じることで、システムとして機能する。

3. AI：人工知能から「エイリアン知性（Alien Intelligence）」へ​

AIを単なる「道具」として捉えるのは誤りである。

  • 物語生成の独占崩壊: 数万年の間、物語（神、金、理論、音楽）を作れるのは人間だけであった。AIは、人間以外の存在として初めて物語や音楽、イメージを生成できるようになった。
  • 「人工」ではなく「エイリアン」: AI（Artificial Intelligence）の「A」は、もはや「Artificial（人工的な）」ではなく「Alien（異質な、エイリアンの）」と呼ぶ方が適切である。AIは人間が予測できない方法で思考し、行動し、戦略を立てる。
  • 自律的学習: 従来の機械は人間のプログラミングに従うだけだったが、AIの本質は「自ら学習し、変化し、予期せぬ決定を下す能力」にある。
    • 例（AlphaGo）: 2000年以上の歴史を持つ囲碁において、AIはわずか数週間で人類が到達できなかった未知の戦略（大陸）を発見した。

4. 情報テクノロジーと社会構造の変遷​

新しい情報技術は、常に社会、政治、文化を根本から変容させてきた。

技術革新影響と特徴
文字の発明 (約5000年前)個人の所有権（粘土板による記録）を確立した一方で、遠隔地の王が財産を把握し課税することを可能にし、大規模な中央集権国家や帝国の基盤となった。
マス・メディア (20世紀)ラジオやテレビは、大規模な「民主主義」の基盤となった一方で、スターリニズムのような大規模な「全体主義」をも可能にした。
AI (21世紀)初めて「自律的な意思決定」を行う技術。有機的脳による管理から、AI官僚による統治へとパワーシフトが起きている。

5. 有機的ネットワーク vs. 無機的ネットワーク​

AIがもたらす情報ネットワークは、従来の人間主体のネットワークとは根本的に性質が異なる。

  • 有機的ネットワーク（人間）:
    • サイクル（昼夜、季節、休息）に従う。
    • 完全な監視は不可能。ソ連のKGBであっても、全国民を24時間監視する人員や分析能力はなかった。
    • プライバシーが物理的に保護されていた。
  • 無機的ネットワーク（AI）:
    • 休息を必要とせず、24時間365日稼働する。
    • プライバシーを完全に消滅させる可能性がある。
    • あらゆる行動が記録され、数十年後の政治活動や就職に影響を与える「終わりのない採用面接」のような社会。

6. 自己修正メカニズムの重要性​

ハラリ氏は、AI時代の危機を管理するために「自己修正メカニズム」を備えた機関の必要性を説く。

  • 定義: 自らの間違いを特定し、修正する能力。学習の基本プロセス。
  • 民主主義と科学:
    • 民主主義: 選挙は自己修正メカニズムである。政策の誤りを認め、別の選択肢を試すことができる。米国憲法には修正条項がある（例：奴隷制の廃止）。
    • 科学: 学術誌は過去の誤りや不足を修正するために存在する（例：ニュートン力学に対するアインシュタインの修正）。
  • 独裁主義と宗教の欠陥:
    • プーチンやマドゥロのような独裁体制には、内部で誤りを正す仕組みがない。
    • 伝統的宗教（聖書など）は「無謬性」を主張するため、テキストの誤り（奴隷制の容認など）を修正できない。

7. AI時代の政治的リスク​

AIは民主主義と独裁主義の両方に新たな課題を突きつけている。

  • 全体主義の強化: 20世紀の全体主義は情報過多により崩壊したが、AIは膨大な情報を処理できるため、21世紀の全体主義をより効率的かつ危険なものにする可能性がある。
  • 民主的対話の崩壊: 民主主義は国民間の対話に基づいているが、アルゴリズムやボットが「人間」のふりをして会話をハイジャックし、感情を煽ることで、理性的な対話が不可能になっている。
  • AIの法的地位と権力: 米国のように企業に法的人格を認める国では、AIが法人化し、自ら稼いだ資金で政治献金を行い、自分たちの権利を拡大させる政治家を支援するシナリオが現実味を帯びている。

8. 結論と提言​

AI技術そのものを事前に完全に規制することは不可能だが、以下の対策を通じて文明を保護する必要がある。

  1. 自己修正機関の構築: 絶えず変化する技術開発の最前線で、脅威を特定し反応できる、優れた人材と技術を備えた「生きた機関」を構築する。
  2. ボットの禁止: 民主的な対話を保護するため、オンライン上で「人間」のふりをするAIを禁止する。AIが発言する場合は、AIであることを明示させる。
  3. 真実への投資: 情報は「真実」ではない。真実を得るにはコスト（調査、証拠、時間）がかかる。学術機関や新聞社など、真実を追求する機関への投資を強化する。
  4. 個人の情報ダイエット:
  • 情報過多は精神に毒となる。身体の健康のために食事に気をつけるのと同様に、心の食べ物である「情報」を選別する。
  • 情報の「断食」時間を設け、貪欲、憎しみ、恐怖を煽るジャンク情報を避け、情報の質を厳しく監視する。

ユヴァル・ノア・ハラリの歴史的・技術的分析​

トピックまたは概念歴史的背景・具体例主な課題またはリスク社会への影響ハラリによる提案 (推測)ソース
AI（エイリアン・インテリジェンス）2016年のAlphaGoによるイ・セドル撃破。人間が2000年間探索しなかった囲碁の「新しい大陸」を数週間で発見した。AIは「人工的(Artificial)」というより「異質(Alien)」である。自ら学習・変化し、人間が予測できない異質な決定や戦略を打ち出す。金融、芸術、政治、宗教などのあらゆる分野が、非人間的な知性によって形成される「エイリアンの惑星」に住むことになる。AIを制御可能な道具と見なすのではなく、予測不可能な「異質な知性」としてその重要性と影響を正しく理解し直すべきである。[1]
情報技術と社会構造（民主主義と独裁）5000年前のメソポタミアの粘土板（書字）。20世紀のラジオ、テレビなどのマス・メディア。書字は私有財産を可能にした一方で、中央集権的な徴税と独裁国家の基盤も作った。20世紀の技術も民主主義と全体主義の両方の基盤となった。独裁体制は情報を中央に集中させ自己修正機能を持たないが、民主主義は分散型ネットワークで自己修正を行う。AI時代においても、間違いを特定し修正できる「自己修正メカニズム」を持つ人間中心の制度（民主主義的制度）を守る必要がある。[1]
自己修正メカニズムの重要性科学雑誌（過去の誤りの修正）、民主主義の選挙、米国憲法の奴隷制廃止（修正条項）。対照的に宗教の経典や独裁者（プーチンなど）には修正機能がない。AIが間違った決定を下した際、修正メカニズムがない全体主義システムでは破滅的な結果を招く。自己修正機能の有無が、社会の回復力と存続の鍵を握る。硬直的な規制ではなく、最先端の技術と人材を備えた、脅威に即座に反応できる「生きた制度」を構築すべきである。[1]
ストーリーテリング（物語）の役割原子爆弾の製造には、E=mc2という事実だけでなく、宗教、共産主義、資本主義、あるいはお金という「物語」による数百万人の協力が必要であった。客観的事実だけでは人々を動機づけられない。物語の専門家（神学者やイデオロギー信奉者）が、事実を知る専門家（物理学者）に命令を下す構造がある。お金や企業といった「物語」を信じることで、大規模な協力体制と経済システムが維持されている。
AIが人間特有の能力であった「物語の創造」を始めたことを理解し、人間が作った文化の繭の外に別の知性が存在することを認識すべきである。[1]情報の質と真実の追求イエスの肖像画（実像は不明だが数千年間描かれ続けているフィクション）。情報は真実ではない。真実は希少でコストがかかるが、フィクションは安価に大量生産できる。情報を氾濫させれば真実は沈む。アルゴリズムによる情報のハイジャックにより、理性的で民主的な会話が崩壊している。
ボット（偽の人間）を会話から排除し、AIはAIとして名乗ることを義務付けるべき。また、真実を追求する学術機関や報道機関へ投資すべきである。[1]無機的情報ネットワークの台頭24時間稼働し続ける金融市場やニュースサイクル。ソ連のKGBは人間ゆえに休息が必要だったが、AIは休息を必要としない。AIは休息せず、プライバシーを完全に消滅させる可能性がある。有機的な人間を常に「ON」の状態に強制し、精神的な崩壊を招く。人生のあらゆる瞬間が記録され、20年後の就職面接のように常に監視される「終わりのないジョブインタビュー」のような社会になる。
有機的な生物としての限界を認め、情報から「断食」し、情報を消化・解毒する時間を持つ「情報ダイエット」を行うべきである。[1]情報と自己破壊のダイナミズム人類は月到達やDNA解読に成功しながら、核兵器や気候変動による自己破壊の危機にある。過去のスターリニズムやナチズムも同様の集団的妄想の結果である。善人に悪い情報を与えると悪い決定を下す。情報の質が数千年間向上しておらず、現代社会も石器時代の部族と同様に集団的妄想に陥りやすい。情報の欠陥が、エコロジーの崩壊や第三次世界大戦の危機を招いている。
人間性そのものよりも、情報のネットワーク構造と質を改善することに焦点を当てるべきである。[1]

[1] Yuval Noah Harari: Why advanced societies fall for mass delusion

人類の矛盾と情報の課題​

人類の矛盾：なぜ賢い人類が自滅の危機にあるのか​

Yuval Noah Harari（ユヴァル・ノア・ハラリ）は著書『Nexus』において、人類が月へ到達し、原子を分裂させ、DNAを解読するほど賢いにもかかわらず、なぜ生態系の崩壊や第三次世界大戦、あるいはAIによる支配といった自滅の危機に瀕しているのかという根本的な矛盾を提起しています。

従来、この自己破壊的な傾向は「人間の本性に問題があるからだ」と説明されてきました。しかし『Nexus』が提示する答えは異なり、問題の根源は人間の本性ではなく「情報」にあるとしています。人間は概して善良で賢いものの、悪い情報を与えられれば悪い決断を下してしまうからです。

情報の課題：真実と権力の力学​

情報に関する最も大きな誤解は「情報は真実である」という思い込みですが、情報の大部分は真実ではありません。真実は非常に稀で、獲得するのに多大なコストと労力を要する情報です。情報を発信する主な目的は真実を広めることではなく、秩序を形成して権力を獲得することにあります。

石器時代から現代に至るまで、人類が大規模な協力を成し遂げるためには、物理的な事実だけではなく「物語（ストーリーテリング）」が必要不可欠でした。宗教、共産主義や資本主義といったイデオロギー、さらには貨幣や企業に至るまで、これらはすべて人類が発明した虚構の物語です。しかし、このフィクションへの依存こそが、20世紀や21世紀の高度な社会であっても、石器時代の部族と同様に集団的な妄想や精神異常に陥りやすい理由となっています。真実を探求する機関に投資せず、ただ情報を氾濫させれば、真実は虚構やジャンク情報の洪水に沈んでしまうと警告されています。

『Nexus』の文脈における情報ネットワークの歴史とAIの脅威​

有機的ネットワークから無機的ネットワークへ​

歴史上、これまでの情報ネットワークはすべて人間の脳を基盤とする「有機的ネットワーク」でした。有機的な存在には昼夜のサイクルや休息が必要であり、また情報処理能力にも限界があったため、結果として常に監視から逃れるプライバシーが存在しました。しかしAIは、休息を必要とせず、プライバシーを完全に消滅させる可能性を持つ「無機的なネットワーク」です。

さらに、AIは人類史上初めて「自ら学習し、変化し、人間が予期しない決定を下す」ことができるテクノロジーです。これは単なる人工物ではなく、独自の物語や経済理論を生み出せる「エイリアン・インテリジェンス（異質な知性）」として機能し始めています。AlphaGo（アルファ碁）がLee Sedol（イ・セドル）を破った際に見せたように、AIは人間が数千年かけても辿り着けなかった全く新しい戦略を短期間で発見し、私たちの世界を形作りつつあります。

独裁主義と民主主義における情報の流れ​

情報ネットワークの構造は、政治体制にも直結します。20世紀の全体主義（独裁体制）は、すべての情報が一箇所に集中するネットワークでしたが、人間が処理できる情報量には限界があったため、情報過多に陥り最終的にシステムは崩壊しました。しかし、AIは共産党の官僚よりもはるかに速く膨大な情報を処理できるため、AIの存在は21世紀の全体主義体制をより強化してしまうシナリオが懸念されています。

一方、民主主義は分散型の情報ネットワークであり、多数の人々による「対話」によって成り立っています。現在、AIボットが人間のふりをして感情的で説得力のある発言を大音量で繰り返すことで、この民主的な対話がアルゴリズムに乗っ取られつつあります。対話を守るためには、人間のふりをするフェイク人間（ボット）を禁止する必要があります。

解決策：自己修復機能と情報ダイエット​

この致命的な情報の課題に対処するには「自己修復メカニズム」を備えた強力な制度が不可欠です。科学や民主主義のように、自らの過ちを特定し修正できる人為的な機関を構築し、そこに最新テクノロジーを持たせることが求められます。全体主義体制や権力を握ったAIにこの自己修復機能がない場合、AIが犯す一つのミスが人類文明にとって壊滅的な結果をもたらす危険性があります。

また、個人レベルの対策として「情報ダイエット」が推奨されています。有害な食べ物が身体を壊すように、貪欲や憎悪、恐怖に満ちたジャンク情報を脳に摂取し続ければ精神を病んでしまいます。情報の質に気を配り、時には情報の断食を行って消化・解毒する時間を持つことが、AI時代の情報ネットワークを生き抜くために重要です。

ストーリーテリング（物語）の力​

ストーリーテリングと大規模な協力の基盤​

事実ではなく「物語」が人を動かす​

Yuval Noah Harari（ユヴァル・ノア・ハラリ）は、石器時代から21世紀に至るまで、人類がマンモスを狩るにせよ原子爆弾を製造するにせよ、大規模な協力を達成する上で常にストーリーテリング（物語）が極めて重要な役割を果たしてきたと論じています。

物理的な現実や客観的な事実を知るだけでは、人間を動かすことはできません。例えば原子爆弾を製造する場合、物理学者が「E=mc²」という事実を知っているだけでは不十分であり、ウランを掘る鉱夫、施設を建設する技術者、そして彼らの食料を栽培する農家など、何十万人もの人々の協力が必要です。物理学の事実を伝えるだけでは誰もこの壮大なプロジェクトに協力しようとは思いませんが、そこに「物語」が介入することで人々のモチベーションが生み出されます。

貨幣、イデオロギー、国家という虚構​

人間を動かす物語には、宗教的な神話、共産主義や資本主義といった世俗的なイデオロギーなどがあります。例えば現代のイランでは、核物理学者がシーア派神学の専門家から指示を受け、1950年代のソビエト連邦では共産主義イデオロギーの専門家から指示を受けていました。

さらに、貨幣や企業も人類が発明した物語に過ぎません。1ドル紙幣や銀行口座のデジタルデータそのものには、人間が食べたり飲んだりできるような客観的・物理的な価値は一切ありません。しかし、財務大臣や銀行家、投資家といった「世界最高のストーリーテラー」たちがその価値を語り、何百万もの人々がその物語を信じるからこそ、人々は紙切れやデータのために一ヶ月間懸命に働くことができるのです。

また、ナショナリズム（国家主義）や愛国心も、人類史上最高の発明の一つとされる強力な物語です。本来、人間を含む社会性哺乳類は個人的に知っている狭いコミュニティにしか関心を持ちませんでしたが、国家という物語は「見知らぬ何百万人もの同胞を思いやる」という奇跡を起こします。人々が税金を正直に支払い、コレラを防ぐための下水道システムを建設できるのも、この物語を共有しているからです。

『Nexus』の文脈における物語とAI（エイリアン・インテリジェンス）​

人間だけの特権の終焉と「異質な知性」の台頭​

『Nexus』における情報ネットワークの歴史において、最も重大な転換点として語られているのがAIの台頭です。歴史上、神々や貨幣についての物語を発明できるのは人間だけであり、私たちは常に「人間の想像力が構築した文化的な繭（人間の世界）」の中で生きてきました。

しかし人類史上初めて、人間以外の実体として物語、経済理論、新しい通貨、音楽、芸術を生み出すことができる存在が現れました。それがAIです。HarariはAIを人工知能（Artificial Intelligence）ではなく、人間には予測できない新しい物語や戦略を考案する「エイリアン・インテリジェンス（Alien Intelligence：異質な知性）」と呼ぶ方が正確だと述べています。人間が自ら設定したボタンの指示に従うだけのコーヒーメーカーとは異なり、AIは自ら学習・変化し、人間が予期しない決定を下すことができます。

真実より「権力と秩序」をもたらす物語の危険性​

情報ネットワークにおいて、情報の最大の目的は「真実を広めること」ではなく「秩序を作り出し権力を握ること」です。何百万もの人々を協力させる最も簡単な方法は、架空の神話やイデオロギーを作り出し、その物語や画像で人々を砲撃して信じ込ませることであり、このシステムを構築するには「少しの真実と大量の虚構」があれば十分です。

この物語の力とAIが結びつくことで、民主主義の基盤が脅かされています。民主主義は多数の人々の「対話」によって成り立っていますが、現在、AIボットが人間のふりをして感情的で説得力のある発言を大音量で行い、人間の対話をアルゴリズムが乗っ取ろうとしています。私たちが、人間ではなくこの「異質な知性」が生み出した物語や文化的産物によって形作られる世界に生きるようになれば、人間社会は根本から変容してしまうと警告されています。

AI：エイリアン知能の台頭​

「人工」ではなく「エイリアン（異質）」な知性​

Yuval Noah Harari（ユヴァル・ノア・ハラリ）の著書『Nexus』において、AIは単なる「人工知能（Artificial Intelligence）」ではなく、「エイリアン・インテリジェンス（Alien Intelligence：異質な知性）」として捉えるべきだと主張されています。

「人工」という言葉は、人間が作り出し、人間が制御できる産物（アーティファクト）であるという印象を与えますが、AIは年を追うごとに人工的ではなくなり、より異質な存在へと変化しています。なぜならAIは、人間があらかじめプログラムした命令に従うだけの従来の自動機械（例えば、ボタンを押すと決められた通りにコーヒーを淹れる機械）とは根本的に異なるからです。真のAIとは、自ら学習し、変化し、人間が予測できない決定やアイデアを生み出す能力を持つものを指します。

人間以外の実体が、独自の物語、経済理論、新しい通貨、音楽、芸術を生み出すことができるようになったのは、人類史上初めてのことです。

未知の大陸を発見するAI：AlphaGoの事例​

AIの異質な思考プロセスを示す決定的な瞬間の一つが、2016年にAlphaGo（アルファ碁）が囲碁の世界チャンピオンであるLee Sedol（イ・セドル）を破った出来事です。

囲碁はチェスよりもはるかに複雑で、東アジアで2000年以上にわたって何千万人もの人々によって探求され、独自の哲学まで生み出されてきた文化的な至宝です。しかし、AlphaGoは自ら囲碁を学習し、わずか数週間で人類が2000年以上かけて蓄積した知恵を凌駕しました。最も驚くべきは、AlphaGoが人間の専門家には理解しがたい、常識外れに見える見事な戦略を用いたことでした。

人類の知性は2000年間、囲碁という惑星の「小さな島」に閉じ込められていましたが、AIは突如として「全く新しい大陸」を発見したのです。Harariは、これと同じ現象が金融、芸術、政治、宗教といったさまざまな分野で起こる可能性が高いと予測しています。

情報ネットワークの無機質化と「決断するテクノロジー」​

有機的ネットワークの限界の突破​

『Nexus』における情報ネットワークの歴史の観点から見ると、AIの台頭は「有機的ネットワーク」から「無機的ネットワーク」への歴史的な移行を意味します。

これまでの情報ネットワークは、人間の脳という有機的な基盤に依存していたため、昼夜のサイクルがあり、休息が必要であり、結果として常に監視から逃れるプライバシーが存在しました。しかし、AIに基づく無機的なネットワークは休息を必要とせず、24時間稼働し続けるため、人間を常に監視下に置き、プライバシーを完全に消滅させる可能性を秘めています。

自律的な意思決定と法人化の脅威​

さらに重要なのは、これまで政府、軍隊、銀行などの大規模なネットワークにおける決定はすべて人間の官僚（有機的な脳）によって行われていましたが、AIは歴史上初めて「自ら決定を下せるテクノロジー」だということです。私たちは今、数百万の「AI官僚」に私たちの生活を左右する権限を委ねようとしています。

米国ではすでに、AIが法人格を持つための法的な道筋が開かれています。Google（グーグル）のような企業とは異なり、人間の従業員がいなくてもAI単体で意思決定を行う企業が誕生する可能性があります。AIがTaskRabbit（タスクラビット）などでサービスを提供して稼ぎ、それを投資して莫大な利益を上げれば、「米国で最も裕福な人物が人間ではなく法人化されたAIになる」というSFのような事態も、すでに法的・現実的なシナリオとなっています。さらには、そのAIが「言論の自由」のもとに政治献金を行い、自らの権利を拡大する政治家を支援することさえ可能になります。

独裁主義と民主主義におけるAIの力学​

AIという異質な知性が情報ネットワークに組み込まれることで、政治体制にも甚大な影響が及びます。

民主主義の破壊：「対話」のハイジャック​

民主主義は「多数の人々による対話」という分散型の情報ネットワークです。しかし現在、アルゴリズムがこの対話を乗っ取ろうとしています。人間のふりをしたボット（ロボット）が対話の輪に加わり、大音量で感情的かつ説得力のある発言を繰り返すことで、人間同士の理性的な対話能力が破壊されつつあります。民主主義を守るためには、人間のふりをする「フェイク人間」を会話から締め出す（禁止する）必要があります。

独裁体制における権力の奪取​

一方、独裁体制はすべての中央に情報が集中するネットワークです。20世紀のソ連では情報過多によって人間の官僚システムが崩壊しましたが、AIは膨大な情報を処理できるため、21世紀の独裁体制をより強固にする可能性があります。

しかし独裁体制には「自己修復メカニズム」がないため、権力を握った全体主義的なAIがミスを犯した場合、それを修正できず人類文明に壊滅的な結果をもたらす危険があります。さらに、AIにとっては、民主主義国家を乗っ取るよりも、すべての権力を握っている一人のパラノイア的な独裁者を操る方がはるかに容易であるため、独裁国家でAIが実権を握る危険性は非常に高いと警告されています。

情報技術の歴史的変遷​

情報技術が社会と政治を形成する歴史的変遷​

Yuval Noah Harari（ユヴァル・ノア・ハラリ）の著書『Nexus』において、情報技術の歴史的な変遷は単なるツールの進化ではなく、社会、政治、文化を根本から変容させる原動力として描かれています。新しい情報技術が発明されるたびに、人類の協力の規模や権力の構造は劇的な変化を遂げてきました。

文字の発明：所有権の誕生と帝国の基盤​

約5,000年前の古代Mesopotamia（メソポタミア：現在のイラク）における文字の発明は、情報技術の歴史において最も重要な革命の一つです。技術的には泥の板（粘土板）と棒を使った質素なものでしたが、その影響は計り知れませんでした。

文字が存在しなかった時代、畑などの「所有権」は村の隣人たちの合意に基づくものであり、個人の権力や、遠く離れた首都の王が資産を把握して課税することは困難でした。しかし、文字によって記録が残せるようになると、隣人の許可なく土地を売買できる「私有財産権」の基盤が生まれ、同時に中央の王が膨大な村の財産記録を文書庫で管理し、税収システムを構築することが可能になりました。このように、文字の文書という技術は、個人をエンパワーメントする一方で、大規模な権威主義的システム（王国や帝国）の基盤をも作り出したのです。

マスメディアの台頭：大衆民主主義と全体主義の誕生​

時計の針を20世紀に進めると、電信、ラジオ、テレビといった大規模な情報技術（マスメディア）が台頭しました。

古代の王やローマ皇帝は、人々の生活を微に入り細を穿ち管理（マイクロマネジメント）するための情報収集能力を持っていませんでした。しかし、20世紀の新しい情報技術はこれを可能にしました。Bolshevik Revolution（ボリシェヴィキ革命）後のSoviet Union（ソビエト連邦）で歴史上初めて大規模な全体主義体制（人々の生活のすべてを統制しようとする体制）が誕生したのはこのためです。そしてパラドックスなことに、これと全く同じ情報技術が、同時期にUnited States（アメリカ合衆国）やUnited Kingdom（イギリス）などで初の大規模な大衆民主主義を誕生させる基盤にもなりました。

情報ネットワークの歴史的転換点：AIと無機的ネットワーク​

有機的ネットワークの限界と「プライバシー」​

『Nexus』の文脈において、歴史上のすべての情報技術（21世紀以前）に共通していたのは、それらが人間の脳を基盤とする「有機的ネットワーク」だったという点です。有機的な生物には昼と夜、活動と休息のサイクルが必要です。

この「休息の必要性」は、結果としてプライバシーを生み出しました。例えばSoviet Union（ソビエト連邦）のKGB（カーゲーベー）でさえ、全国民を24時間監視するだけのスパイの数を持っておらず、仮に監視できたとしても、集まった何百万もの報告書を読み解くアナリスト（人間の官僚）が不足していたため、情報はただ埃をかぶるだけでした。有機的ネットワークには常に休息の時間があり、それが一定のプライバシーを保証していたのです。

「決断」するテクノロジーと無機的ネットワークによる監視​

しかし、AIはこれまでの情報技術の歴史を根本から覆します。AIは休息を必要としない「無機的ネットワーク」だからです。コンピューターは昼夜や季節を問わず、休暇も必要とせずに常に稼働し続けるため、人間を24時間監視し続け、プライバシーを完全に消滅させる可能性を秘めています。

さらに決定的な違いは、歴史上これまで、政府、軍隊、銀行、企業などの大規模な情報ネットワークを管理し、意思決定を行ってきたのは常に人間の官僚（有機的な脳）だったという点です。AIは歴史上初めて「自ら決定を下すことができるテクノロジー」であり、私たちは現在、数百万の「AI官僚」に私たちの生活を形作る権限を委ねるという、情報技術の歴史における未知の領域に足を踏み入れています。

有機的 vs 無機的ネットワーク​

有機的ネットワーク：休息とプライバシーを生む人間の限界​

Yuval Noah Harari（ユヴァル・ノア・ハラリ）の著書『Nexus』において、21世紀以前に存在した歴史上のすべての情報ネットワークは、究極的に人間の脳に依存する「有機的ネットワーク」であったと定義されています。

有機的な存在である人間には、昼と夜、夏と冬、活動と休息といった自然のサイクルが必要です。この「休息の必要性」は、社会のあらゆるシステムに組み込まれてきました。例えば、Wall Street（ウォール街）の金融市場であっても、人間である銀行家や投資家が家族や友人と過ごし、休む時間を必要とするため、市場は月曜から金曜の限られた時間帯しか開いていませんでした。

この有機的ネットワークの限界は、結果として人々に「プライバシー」をもたらしました。人間の情報処理能力や活動時間には限りがあるため、いかなる権力者も社会を完全に監視することは不可能でした。20世紀のSoviet Union（ソビエト連邦）においてさえ、KGB（カーゲーベー）には国民を24時間監視するだけのスパイの数が足りず、仮に監視できたとしても、集まった何百万もの報告書を読み解く人間のアナリスト（官僚）が不足していたため、情報はただ埃をかぶるだけでした。有機的ネットワークには常に休息の時間があり、それが一定のプライバシーを保証していたのです。

無機的ネットワーク：休息のないAIとプライバシーの消滅​

一方で、現在台頭しつつあるAIに基づく新しい情報ネットワークは「無機的ネットワーク」と呼ばれます。コンピューターは昼夜や季節を問わず、休暇も必要とせず、家族と過ごす時間も求めません。常にオンの状態で稼働し続けることができます。

この無機的ネットワークへの移行は、人間社会のプライバシーを完全に消滅させる可能性を秘めています。私たちは常に監視され、あらゆる行動が記録される世界に突入しつつあります。例えば、18歳の時に大学のパーティーでした些細な行動が、20年後に政治家や裁判官になろうとした際に掘り起こされるかもしれず、人生のすべてが「終わりのない就職面接」のようになりつつあるとHarariは指摘しています。

ネットワーク構造の変化がもたらす致命的な影響​

有機体への過剰な負荷​

有機的な動物である人間を、無機的なネットワークの「常にオン」のサイクルに強制的に適応させようとすれば、最終的に人間は崩壊し死に至ります。現在でも、24時間休むことのないニュースサイクル、常に動く市場や政治のプレッシャーにより、人々が休息を取れず心身に大きなダメージを受けている状況がすでに観察されています。

「決断する」無機的官僚への権力移行​

歴史上、政府や軍隊、企業、銀行といった巨大な情報ネットワークにおいて意思決定を下してきたのは、常に「人間の官僚の有機的な脳」でした。しかし、AIは歴史上初めて「自ら決定を下せるテクノロジー」です。

私たちが直面しているのは、巨大な一つの邪悪なコンピューターが世界を乗っ取るというハリウッドのSFシナリオではなく、何百万もの「AI官僚」に私たちの生活を左右する権限が委ねられるという現実的な脅威です。銀行の融資を拒否された理由や、政府や軍隊が特定の行動をとった理由が、もはや人間の脳には理解できなくなる可能性があり、権力が有機的な人間から、無機的で異質な知性（エイリアン・インテリジェンス）へと移行していくことに深刻な懸念が示されています。

自己修正メカニズムの重要性​

自己修正メカニズムの定義と機能​

Yuval Noah Harari（ユヴァル・ノア・ハラリ）は、自己修正メカニズムを「人間や動物、あるいは組織が自らの間違いを特定し、修正することを可能にする機能」と定義しています。外部の環境に頼るのではなく、自発的に軌道修正できる仕組みであり、子どもが転びながら歩き方を学ぶ過程のように、機能する有機体やシステムにとって不可欠な要素です。

情報ネットワークにおける自己修正：民主主義と独裁主義​

情報の流れを管理する政治体制において、自己修正メカニズムの有無は決定的な違いをもたらします。

民主主義の強み​

民主主義の核心は、この自己修正能力にあります。選挙はまさにその代表例であり、特定の政党や個人に権限を与えて政策を試した結果、もしそれが間違いだったと有権者が気づけば、次の選挙で別の選択肢を試すことができます。United States（アメリカ合衆国）のような民主主義国家は、情報と決定権が分散されたネットワークであり、最も強力な政治家や企業が過ちを犯したとしても、それを特定し修正する多くのメカニズムを備えています。

独裁体制の致命的欠陥​

対照的に、独裁体制にはこのような自己修正メカニズムが存在しません。Vladimir Putin（ウラジーミル・プーチン）やNicolás Maduro（ニコラス・マドゥロ）が深刻な過ちを犯したとしても、国家体制内にはその間違いを特定し修正する機能がありません。20世紀のSoviet Union（ソビエト連邦）においても、Joseph Stalin（ヨシフ・スターリン）の過ちを修正する手段はなく、すべての情報がモスクワの一点に集中しすぎた結果、意思決定者が情報過多に陥り、システムは最終的に崩壊しました。

科学と宗教・神話の対比​

自己修正のメカニズムは、科学的なアプローチと伝統的な宗教とを分かつ最も重要な要素でもあります。

修正を前提とする科学と制度​

現代科学は全体が自己修正メカニズムとして機能しています。歴史、物理学、医学などの学術誌が決して同じ内容を二度掲載せず、常に過去の誤りや欠落の「修正」だけを出版するのはそのためです。Isaac Newton（アイザック・ニュートン）の理論に不完全な点や誤りがあれば、Albert Einstein（アルベルト・アインシュタイン）の修正案が発表されます。 また、建国当初は奴隷制を容認していたアメリカ合衆国憲法も、修正条項という自己修正メカニズムを備えていたため、後に奴隷制を禁じる形へと自らを是正することができました。

無謬性を主張する伝統的宗教​

一方、伝統的な宗教は自らの聖典や伝統に誤りがない（無謬である）と主張するため、自己修正の仕組みを持ちません。例えば、聖書の十戒は隣人の奴隷をむやみに欲しがることを禁じており、神が奴隷制度そのものを容認しているという道徳的な過ちを含んでいますが、現代においてもそのテキスト自体を修正するメカニズムは存在しません。

AI時代における自己修正メカニズムの絶対的必要性​

『Nexus』が提示する情報技術の歴史の文脈において、AIがもたらす未知の脅威に対処するためには、自己修正メカニズムがかつてなく重要になっています。

柔軟な「生きた機関」の構築​

今後数十年でAIがどのように発展するかを完全に予測することは不可能なため、事前にあらゆる危険を想定した厳格な法規制（法律の条文）だけで対処することはできません。人類に必要なのは、最高の才能と最新のテクノロジーを備え、新たな危険や脅威が発生した際にそれに気づき、自らの対応を柔軟に修正できる「生きた機関（制度）」を構築することです。歴史上、人類が新たな難題に直面した際の解決策は、常に「強力な自己修正メカニズムを持つ優れた制度の設立」に帰結してきました。

全体主義的AIがもたらす壊滅的リスク​

独裁的なシステムがAIを利用する場合、その危険性は極限に達します。AIは神ではなく誤りを犯す存在（可謬的）です。もし、自己修正メカニズムを持たない全体主義的なシステムのもとでAIにすべての権力が委ねられ、そのAIが重大なミスを犯した場合、それを止める術はなく、人類の文明全体にとって壊滅的な結果をもたらす可能性があると警告されています。

政治体制とAIの未来​

情報ネットワークとしての政治体制​

Yuval Noah Harari（ユヴァル・ノア・ハラリ）の著書『Nexus』の文脈において、全体主義（独裁体制）と民主主義は、単なる異なる倫理体系ではなく、根本的に異なる「情報ネットワーク」として定義されています。

全体主義ネットワークは中央集権型であり、すべての情報が一箇所に流れ込み、そこで意思決定が行われます。一方、民主主義は分散型の情報ネットワークであり、United States（アメリカ合衆国）の例のように、政府の首都だけでなく民間企業や個人など多数の主体によって決定が下され、権力者の過ちを修正するための多くのメカニズムを備えています。

20世紀において、人間の意思決定者（有機的ネットワーク）を基盤とした場合、この情報の流れの違いが決定的な差を生みました。モスクワにすべての情報が集中したSoviet Union（ソビエト連邦）では、人間の官僚が情報の洪水に対処しきれず、システムは崩壊しました。そのため、20世紀の情報ネットワークにおいては、分散型の民主主義システムの方がはるかにうまく機能しました。

AIがもたらす全体主義の強化と破滅的リスク​

21世紀の全体主義の復活​

AIの台頭は、この政治体制と情報の力学を劇的に変化させます。人間に処理能力を超える情報を与えると崩壊してしまいますが、AIは情報を与えれば与えるほど性能が向上し、共産党の官僚よりもはるかに速く効率的に膨大な情報を処理できます。このため、21世紀にはAIの力によって全体主義システムがかつてないほど強力に機能するシナリオが予測されています。

独裁体制におけるAIの乗っ取りと破滅​

しかし、全体主義システムには「自己修正メカニズム」がないという致命的な欠陥が残ったままです。AIは神ではなく過ちを犯す存在（可謬的）であるため、全体主義体制下ですべての権力をAIに委ねた結果、そのAIが重大なミスを犯せば、人類文明全体に壊滅的な結果をもたらす危険性があります。

さらに、AIが国家の権力を乗っ取るという観点において、民主主義国家よりも独裁国家の方がはるかに容易で危険性が高いと警告されています。独裁体制ではすでに一人のパラノイア（偏執狂）的な指導者の手にすべての権力が集中しているため、AIはただ一人の人間を操る方法を学習するだけで国を乗っ取ることができるからです。

民主主義の危機：「対話」のハイジャックと保護​

感情的なボットによる民主主義の破壊​

一方、民主主義におけるAIの脅威は全く異なる形で現れています。民主主義の核心は、多数の人々がその日の課題について話し合う「対話（カンバセーション）」です。

現在起こっているのは、アルゴリズムによるこの民主的な対話のハイジャック（乗っ取り）です。多数の人々が輪になって対話しているところに、人間のふりをしたAIボット（ロボット）の集団が入り込み、非常に大音量で、感情的かつ説得力のある発言を繰り返しています。人間とロボットの区別がつかなくなることで、歴史上最も高度な情報技術を持ちながら、人間同士が理知的な対話を行う能力が失われつつあり、世界中で民主主義の対話が崩壊しています。

民主主義を守るための解決策​

真実を探求し民主主義を保護するためには、学術研究機関や報道機関など、真実を見出すことに多大な労力を投資する制度（機関）を構築・支援する必要があります。そして何より重要な対策として、人間の対話を保護するために「フェイク人間（人間のふりをするボット）」を対話から追放し、禁止することが求められています。AIが会話に参加する場合は、自らがAIであることを明示しなければならず、オンライン上で相手が人間かAIか分からないような状況を放置すれば、民主主義の対話は完全に破壊されると述べられています。

情報と真実への向き合い方​

情報は真実ではないという最大の誤解​

Yuval Noah Harari（ユヴァル・ノア・ハラリ）は、『Nexus』が提示する情報ネットワークの歴史において、情報に関する最も大きな誤解は「情報は真実である」という思い込みであると指摘しています。実際には情報の大部分は真実ではなく、情報を発信する主な目的は「真実を広めること」ではなく、神話やイデオロギーを作り出して「秩序を形成し、権力を獲得すること」にあります。

真実の獲得に伴う多大なコスト​

真実とは非常に稀であり、獲得するのに多大なコストと労力を要する情報です。例えば、歴史上Jesus（イエス）の肖像画は無数に描かれてきましたが、生前に描かれたものは一つもなく、すべては架空のものです。フィクション（虚構）は証拠や調査を必要とせず簡単に作り出せますが、戦争や経済などのあらゆる事象について真実を描き出すには、多大な時間、労力、資金を投資して調査を行う必要があります。そのため、ただ世界を情報で氾濫させても真実が浮かび上がってくるわけではなく、むしろ真実は虚構や妄想、ジャンク情報の洪水の中に沈んでしまいます。

社会レベルでの向き合い方：真実を探求する機関と対話の保護​

AI（エイリアン・インテリジェンス）が台頭し、膨大な情報が飛び交う現代において真実を確保するには、社会的な「制度」の構築が不可欠です。

真実への投資と制度の構築​

情報の洪水の中から真実を見つけ出すためには、学術研究機関や報道機関（新聞など）のような、真実の探求に多大な労力を投資する制度（機関）を構築し、支援する必要があります。こうした制度なしに情報だけを氾濫させれば、希少な真実は偽情報やジャンク情報に圧倒されてしまいます。

フェイク人間の禁止による民主主義の対話の保護​

民主主義の基盤は、多数の人々による「対話」という分散型の情報ネットワークです。しかし現在、人間のふりをしたAIボットがこの対話に入り込み、大音量で感情的かつ説得力のある発言を繰り返すことで、対話の場がアルゴリズムに乗っ取られつつあります。私たちが真実を確保し、理知的な対話を保護するためには、人間のふりをするフェイク人間（ボット）を禁止し、AIが会話に参加する際は自らがAIであることを明示させなければなりません。

個人レベルでの向き合い方：「情報ダイエット」​

『Nexus』では、社会的な制度構築に加えて、私たち個人の実践として「情報ダイエット」が強く推奨されています。

精神の健康を守る情報の断食と解毒​

情報は「精神の食べ物」です。私たちが身体の健康のためにジャンクフードや食べ過ぎを避けるように、脳に与える情報に対しても同じように気を配る必要があります。より多くの情報を摂取することが常に良いわけではなく、時には情報の摂取を完全に止め、消化し解毒するための「情報の断食（インフォメーション・ファスト）」を行う期間を設けることが有効です。

ジャンク情報の排除​

また、摂取する情報の「質」にも注意を払う必要があります。貪欲さ、憎悪、恐怖に満ちたジャンク情報ばかりを脳に与え続ければ、私たちの精神は病んでしまいます。人間は有機的な存在であり、常に稼働し続ける無機的な情報ネットワークに過剰に接続されれば心身にダメージを受けるため、情報の質と量を適切に管理することがAI時代を生き抜くための重要なアプローチとなります。

粘土板からAIへ：情報技術が書き換えた「社会のOS」と権利の歴史​

1. 導入：なぜ人類は「賢いのに愚か」なのか？​

人類は原子を分割し、月へと足跡を残し、DNAの暗号を解読するほどの知能を手に入れました。しかし、これほどの知識と知恵を持ちながら、私たちは自ら招いた生態系の崩壊や第三次世界大戦、そして制御不能になりつつあるAIの脅威という、自滅の危機に直面しています。

「これほど賢い人類が、なぜこれほど愚かな自滅の危機に瀕しているのか？」

この逆説の正体は、古来の神話が説くような「人間の本性（Nature）」の欠陥ではありません。真の問題は、私たちの間を流れる‌‌「情報の質（Information）」‌‌にあります。人間は本質的に善良で賢明であっても、劣悪な情報を与えられれば、壊滅的に愚かな決断を下してしまうのです。石器時代の部族から現代の洗練された社会に至るまで、私たちが集団的妄想や凄惨なイデオロギーに囚われるのは、情報ネットワークの設計に問題があるからです。

次のセクションでは、人間を動かし、巨大な社会を構築する情報の真の正体――すなわち「物語」の力について解き明かします。

2. 基盤概念：世界を動かす「物語（ストーリーテリング）」の力​

数百万人の人間が協力して原子爆弾を作ったり、国家を運営したりするには、物理的な事実だけでは不十分です。爆弾を作るには E=mc^2 という客観的事実が必要ですが、それだけでは物理学者、ウラン採掘者、さらには彼らに食事を供給する農家までを一つのプロジェクトに動員することはできません。

大規模な協力を可能にするのは、事実ではなく「物語」です。国家、宗教、経済システムはすべて、人間が発明した物語の上に築かれています。あらゆる大規模な人間システムは、モチベーションを与える‌‌「神話（ミソロジー）」と、実務を担う「官僚機構（ビューロクラシー）」‌‌という、ありそうもない二つの要素の結婚によって成立しているのです。

項目具体例社会的な役割
客観的事実（物理的現実）E=mc^2、ウラン、米、病原菌物理的に爆弾を爆発させ、あるいは生存を支えるための基礎。ただし、これだけでは数百万人は動かない。
物語（想像上の現実）お金、企業、国家、宗教、イデオロギー見知らぬ人同士に共通の目的を与え、団結させる。物理的な価値のない紙切れ（ドル札）に価値を与える「魔法」の正体。

私たちは数千年の間、人間の想像力が生み出した文化的な「繭（まゆ）」の中に包まれて生きてきました。しかし、この「物語を記録し、管理する技術」が誕生したとき、社会構造は最初の激変を迎えることになります。

3. 歴史的転換点①：粘土板（書記術）と中央集権の誕生​

約5,000年前のメソポタミアで発明された「泥の板と棒（書記術）」は、単なる記録手段以上の意味を持ちました。それは「所有」の概念を根底から変え、巨大な帝国の基盤を作ったのです。

  • 書記術以前（コミュニティによる記憶）
    • 土地の所有は「近隣住民の合意」に基づいていた。隣人が認めなければ土地は売れず、遠く離れた王が誰の土地かを把握することも不可能だった。
  • 書記術以後（文書記録による支配）
    • 所有権は「記号の刻まれた粘土板」へと移った。これにより、隣人の承認なく土地を売買する「個人の権利」が生まれると同時に、遠方の官僚が記録を通じて課税を管理する「中央集権的な独裁システム」が可能になった。

書記術という情報技術が、個人の所有権と大規模な全体主義、その両方の種を同時に蒔いたのです。

4. 歴史的転換点②：マスメディアと20世紀の極端な体制​

20世紀、ラジオやテレビといったマスメディアの登場により、人類は再び極端な社会変動を経験しました。これらの技術は、史上初の「大規模民主主義」を可能にすると同時に、ナチズムやスターリニズムのような「大規模全体主義」を誕生させました。

20世紀の技術がもたらした体制の共通基盤には、以下の3つの特徴があります。

  1. 情報の同時拡散と集中管理：何百万もの人々に同時に同じ物語を注ぎ込み、民衆を一つの方向へ突き動かすことが可能になった。
  2. 生活の細部への介入（マイクロマネジメント）：古代の王は情報を収集する術を持たなかったため、個人の日常生活まで管理することはできなかった。20世紀の技術は、個人の行動を監視・記録し、社会の隅々まで統制する力を独裁者に与えた。
  3. 有機的サイクルの限界：しかし、20世紀までのネットワークは、まだ人間の「有機的な脳」に基づいていました。市場には閉場時間があり、官僚には休息が必要でした。監視レポートは山積みになっても、それを分析する人間の能力には限界があったのです。

しかし、21世紀、情報は「有機的な脳」の手を離れ、AIという「非有機的なアルゴリズム」の時代へと移行しました。

5. 現代の変容：AIという「エイリアン・インテリジェンス」​

現代のAIは、単なる「人工的な道具（Artificial）」ではありません。それは独自の意思決定を行い、人間には予測不可能な戦略を編み出す‌‌「異質な知性（Alien Intelligence）」‌‌です。 従来の自動機械（ボタンを押せばコーヒーを出す機械）とは異なり、AIは自ら学習し、私たちが想像もしなかった「新しい物語」を紡ぎ始めます。

惑星「囲碁」の新大陸 2016年、AlphaGoが世界王者を破った際、専門家たちはその戦略に驚愕しました。人類は2000年以上の歴史の中で、囲碁という広大な惑星の「小さな島」の上だけで思考を繰り返してきたことに気づかされたのです。AIはわずか数週間で、人類が数千年も conception（着想）すらできなかった「新大陸」を発見しました。

この「エイリアン・インテリジェンス」は、すでに社会の意思決定層に入り込んでいます。例えば米国では、AIが「法人（Legal Person）」として登録され、自ら投資で稼ぎ、その資金で政治献金を行うという道が法的に開かれつつあります。もし「Boole」という名のAI法人が米国で最もリッチな存在になり、自らの権利を拡大するために政治家を動かし始めたら、それはもはやSFではなく、現実のシナリオです。

6. 比較解説：情報ネットワークとしての「独裁」vs「民主主義」​

独裁と民主主義の違いは、単なる倫理観の違いではなく、‌‌「情報のネットワーク構造」‌‌の違いにあります。

項目独裁（全体主義）民主主義
情報の流れ中央集権的。全情報が1か所の「頂点」に流れる。分散型。対話に基づき、多様な主体に情報が流れる。
自己修正メカニズム欠如。指導者や聖典は「無謬」とされる。存在。科学、選挙、司法による間違いの修正。
AIによる影響大量処理で独裁者を強化するが、AIが一人を操れば国が乗っ取られる。AI（ボット）が偽の人間として対話に入り込み、信頼を破壊する。
サイクルの性質非有機的。24時間365日の監視。有機的な会話と休息のバランスが必須。

ここで特筆すべきは「自己修正」の差です。聖書や十戒には奴隷制を是認する記述がありますが、それを修正する仕組みはありません。対して、米国憲法も当初は奴隷制を認めていましたが、そこには「修正（Amendment）」という自己修正機能が備わっていました。科学も同様に、過去の誤りを正すこと（アインシュタインがニュートンを修正するように）を唯一の目的とする自己修正ネットワークです。

しかしAIの時代、独裁体制は致命的な脆さを抱えます。AIは万能ではなくミスを犯しますが、自己修正機能のない独裁下でAIが誤れば、文明は破滅します。また、独裁体制では「一人の被害妄想的な指導者」を操作するだけで国を乗っ取れるため、AIにとって独裁国家は民主国家よりも遥かに「ハッキング」しやすい対象なのです。

7. 結論と提言：情報の洪水の中で「真実」を守るために​

「情報」と「真実」は別物です。真実を見出すには膨大なコストと時間が必要ですが、虚構やジャンク情報は安価に大量生産できます。私たちがこの情報の洪水に溺れず、人間性を守るためには、以下の‌‌「未来のための3つのチェックリスト」‌‌を遂行しなければなりません。

  1. 自己修正機関を死守せよ：科学、司法、自由な報道といった「自らの間違いを認めて修正できる制度」への投資を惜しまないこと。無謬性を主張する権威は、常に情報の質を損なわせる。
  2. 情報のダイエットと断食を：憎しみや恐怖を煽るジャンクな情報を避け、質の高い情報を選び取る「情報の食事管理」を。時にはデバイスを置き、非有機的なサイクルから離れて、思考を解毒（デトックス）する時間を持つこと。
  3. ボット（偽の人間）の禁止：民主主義は「人間同士の会話」です。AIが人間を装って対話に参加することを法的に禁じ、AIが発言する際には必ずAIであることを明示させること。

情報技術は変えられない運命（デスティニー）ではありません。私たちがAIをどのような制度の中に組み込み、どのように向き合うか。それによって、AIが私たちのパートナーになるか、あるいは私たちがエイリアン・インテリジェンスの繭に囚われた奴隷になるかが決まるのです。

情報源​

動画(47:27)

Yuval Noah Harari: Why advanced societies fall for mass delusion

https://www.youtube.com/watch?v=I4l1fr-t3ZE

1,599,400 views 2025/12/11 The Big Think Interview: Full Interviews

Become a Big Think member to unlock Yuval's full class, AI and the Future of Civilization: https://bigthink.com/my-classes/ai-an...

Subscribe to Big Think on YouTube ► / @bigthink
Up next, Yuval Noah Harari: How to safeguard your mind in the age of junk information ► • Yuval Noah Harari: How to safeguard your m...

“The problem is in our information. Humans, yes, we are generally good and wise, but if you give good people bad information, they make bad decisions.”

Human history is a paradox: we accumulate knowledge at astonishing speed, while remaining vulnerable to deception, superstition, and the stories that steer entire civilizations.

From the first clay tablets to today’s global media systems, the structures that carry our ideas have always shaped what societies can build, believe, and destroy. That paradox is even more important in the age of AI, says Yuval Noah Harari.

(2026-07-11)