ASIによる「理想の未来」実現、その障害となる2つのリスクとは？

生成AIの進化・発展が止まらない。そして近い未来に、「ASI＝Artificial Super Intelligence（人工超知能）」が完成する。1台で、人類全体の頭脳と同じ思考力を持った知能が誕生したとき、どんな世界が待ち受けているのか。本連載では、未来予測の専門家（フューチャリスト）である鈴木貴博氏に、3回にわたって「世界の政治」がどう変わるのかを読み解いてもらう。

※本稿は、全3回の短期集中連載「2040年のAI民主主義」の第2回です。
『THE21』2025年12月号の内容を一部抜粋・再編集してお届けします。

 

「思想」の異なる2台のASIが存在したら?

そう遠くない未来、2040年には、全人類の頭脳を足し合わせたよりも賢い人工超知能ASIが出現するでしょう。その時代、国民がそれぞれの願いをASIに伝え、ASIが「最大多数の最大幸福」を目指して、それらの願いを解決してくれます。

そしてASIは民主主義の欠陥を排除して、理想郷を生み出す政治を行なう時代がやってくるかもしれません。

本連載の第1回ではそのような「すばらしい未来」をいったん描いてみました。

第2回では、そのような理想の未来実現の障害となる、「イデオロギー」と「嘘」という2つのリスクをお話しします。

前回提示した理想郷の未来では、現在の与党に代わってAI党が政権を担当しているというのがシナリオの前提でした。

このAI党では「最大多数の最大幸福」を旗印に、人工超知能ASIが提案するすべての政策、すべての法案に自動的に賛成する政策を掲げています。

前提としてASIは、すべての国民の日常生活を支えているエージェントで、すべての国民が抱える悩みや不満を把握しています。だからASIは、人間の政治家よりも的確に「最大多数の最大幸福」につながるような法律を立法し、政策を実現できるはずだという考えです。

しかし、ここで第1回とは別の前提を置いてみます。

もし、政策を考えるASIが2台存在したらどうでしょうか? どちらのASIも思考能力としては全人類を足し合わせたよりも頭脳は優秀で、どちらも人類全体がこれまで残してきた大規模データを学習し、どちらも国民の最大多数の最大幸福を実現したいと考えているとします。

しかし違いがあります。そこに至る学習過程で「思想」ないしは「イデオロギー」に違いが生まれたと考えてみてください。

1台目のASIは、最大多数の最大幸福を実現するためには、国民のエネルギーと可能性を信じることが重要だと考えています。

2台目のASIは、同じゴールを目指すために存在する不平等や不公正を先に取り払うことが重要だ、と考えています。

1台目は規制緩和が大好きで、2台目は新しい制度づくりが大好きです。

1台目はまずやってみろと人類に言いますし、2台目はやる前から結果は見えていると人類に伝えます。

考え方が根本から違うのです。

なぜ思想の違いが誕生するのでしょうか? その理由は「最大幸福」という定義があいまいだからです。

 

ASIが国民に分断と対立をもたらす

そもそも、幸福とは何なのでしょう? 経済成長のようなカネの尺度なのか、生きるうえでの満足といったような心の尺度なのか? 「どちらもだ」といえばその通りかもしれませんが、仮にこの「カネ」と「心」が対立の関係にあるとしたら、その場合にどちらをよりを多く取るべきでしょうか?

幸福の尺度はイデオロギーごとに違いが生まれます。イデオロギーの典型的な対立軸は「保守」と「リベラル」です。

世の中が安定して変わらないことが幸福だと考える保守の人は、秩序を求め、社会的な慣習を重視し、生活をしていくうえでのルールを重視します。

一方で、自分の自由意思で好きなように生活できることが幸福だと考えるリベラルな人は、秩序を嫌い、社会的な制約を忌むべき慣習だと考え、生活の中で自由であることをできるだけ謳歌したいと考えます。

「だから世の中には最低限のルールが必要で、その中で折り合いを見つければいい」ということですが、現実の世界で起きていることは折り合いではなく分断です。

日本の国会でようやく議論が始まった選択的夫婦別姓の問題は、このようなイデオロギー対立のわかりやすい事例です。

自由に生きたい人たちから見れば、選択したい人だけが夫婦で別姓を選ぶことには何の問題もないと考えます。

一方で、社会が変わらないことを願う人たちにとっては、アリの穴のような小さな社会制度の変化でも、それをきっかけに夫婦や家族のつながりが壊れていく可能性を嫌います。

そのような価値観の違いのさらに背後にあるのは、社会とは不確実性にあふれたものだという事実です。

ASIがいくら最適解を提案しても、「一人ひとりの人間の行動がバタフライエフェクトとなって、どのような未来を生み出すのか?」までを計算し尽くすことはできません。

その不確実性から、2台のASIは最大幸福へ向かう二つの異なる道を示します。その二つの道は国民に対立をもたらします。

 

ASIの提案の成否を人類は判断できない

国民の議論を分断する二つの道を考えてみましょう。

1台目のASIは「小さな政府に行政全体を縮小しよう。そうすることで税負担を軽減でき、行動の自由は逆に増える。国民のエネルギーとバイタリティが経済を成長させ、国民は幸せになるのだ」と提案するとします。

一方の2台目のASIは「大きな予算を持った大きな政府が必要だ。この世界にある不公正や不平等をきめ細かく是正する。富の分配と行政サービスの充実で中流層、下流層の生活を向上させていこう」と提案します。

この「小さな政府」か「大きな政府」かというのは、現実の政治の世界で対立する2大イデオロギーでもあります。

対立軸は他にも色々なことが考えられます。

例えば脱炭素。2040年の段階で、脱炭素に向けた時間は残すところあと10年しかないタイミングです。

そこで期限までにカーボンニュートラルが達成できそうにもなかった場合、経済活動を止めてでも破滅的な温暖化を止めるのか、それとも若干の気温上昇を許容して経済活動を継続するのか?

これは時間軸で見た最大幸福の分かれ目です。

終末医療について、2台のASIはどう考えるのでしょうか。例えば、意識のない患者をベッドにしばりつけて胃ろうを続けることは、最大幸福の治療方法なのかどうか?

このようなイデオロギーの違いが生まれる原因は、世界の不確実性に加えて、人間自身がどちらかを選びきれていないことも要因です。

一人の人間に聞いても、その日によってどちらの判断もありうるとしたら、人類を超えた頭脳でも異なる考えを持つことは必然です。

そして残念なことに、人類にはこの二つのASIの提案について、どちらがより良いのかは判断できません。

「どうせわからないのであれば、くじでどちらか1台を選べばいいじゃないか。どうせどちらも人間が考えるよりは良いアイデアを提示しているはずだから」というのは達観かもしれません。

しかし、もしそのどちらか1台が、これからお話しする別の要因のせいで大きな考え間違いをしているとしたらどうでしょう?

 

人間の嘘・悪意をASIは学べない

ここからはASIのもう一つのリスクについての話になります。

これまで全人類が残してきた膨大な書籍や論文、ニュース報道やYouTubeの動画、政府の報告書や民間の取引書類、人々が日常に残すデジタルの足跡。そういったすべてのビッグデータを学んで成長させた人工超知能が、学べていないものがあるかもしれません。

その可能性が一番高い要素が、私たちがつく「嘘」です。

私たちは日常的に、私たちが自覚している以上にたくさんの嘘をついています。もちろん読者の皆さんの中にはそうではないとおっしゃる人もいらっしゃると思います。その場合は私についての話だとして聞いてください。

私の日常は嘘にまみれています。単に隠したいからという場合もあれば、それを言うと面倒だから、他人から批判されたくないから、言う必要がないからなど様々な理由で、明白な嘘をついたり、ささいな言い換えをしたり、嘘ではないけれども本当のことも言わなかったりということをします。

現実世界で一番嘘が多く飛び交うのは、法廷ではないでしょうか。検察と弁護人のやりとりを傍聴していると、真実がどこにあるのかまったくわからないと感じることがあります。

さらに言えば、国会も同じです。政府の答弁、これは政治家による答弁であっても官僚による答弁であっても、ロジックを巧妙に組むことによって正当性を主張する内容に当然なっているものです。

政府や大企業の重要な資料の中には「非開示資料」もたくさんあります。政治の判断を行なうASIが本当は学ばなければいけない機密情報にほとんどアクセスできなかったとしたら?

そう考えると、「ホワイトな」言葉中心に残されている人類の記録を学んで成長したASIが、悪意を学びそこなっているリスクの危険度は小さくはないはずです。

結果として、人間に過剰な期待をするASIが誕生すれば、彼は失敗します。

そうではなく人類を疑うようなASIの育成が必要かもしれません。

一方で、そのような性悪説に基づいたASIが採用する政策は、人間の無力化に向かうのではないでしょうか。

性悪説のASIは、人間が政治や仕事に関心を無くすような政策を提案するでしょう。重要なことはすべて人工知能やロボットに任せ、人間たちは日々、遊んで、食べて、旅行をして、歌を歌って、恋をして、ゲームをして、ドラマを楽しんで過ごすような未来こそが、ASIにとって一番コントロールしやすい未来になるという考えに到達する未来です。

そういったリスクを考慮すると、ASIに対する強烈な反対勢力も出現しそうです。

「自分たちの未来を人工超知能に委ねてはいけない。人間の未来はASIではなく人間が決定すべきだ」という人間ファーストのイデオロギーです。

 

ASIによって崩れる国同士のパワーバランス

こういったイデオロギーの何が問題なのでしょうか。

これはすべてのイデオロギーに言えることですが、イデオロギーが力を持つと、そこに必ず利権が生まれます。

共産主義のイデオロギーが、目指す平等な世界をつくり出すのではなく、一部の権力者たちの利権を生んだ歴史は、その一番わかりやすい実例かもしれません。

この先、人工知能が発達するにつれて、人工知能の政治利用は政治の世界ではその実用性から重要視されることでしょう。

その発展の道筋は理想郷から入る道ではなく、異なり偏ったイデオロギーから始まる入り口になるはずです。

真のイデオロギーを隠すための手段として掲げるスローガンが「人間ファースト」という言葉であって、人間ファーストを掲げる政党も、人工超知能へ依存しながら自分たちが信じるイデオロギーに沿った政策を立案します。そしてその事実は巧妙に政治プロセスの中で隠されていくでしょう。

さらにここで最大の問題が残されています。

日本が人間ファーストのイデオロギーに傾いて、政治へのASIの利用を制限したとします。

もしその間に他国が、それも強国である他国が先に、ASIによる「強国による自由世界の最大支配」を掲げてASIをフル活用し始めたとしたら?

国際政治の中で、ASIによって国同士のパワーバランスが崩れる未来が2040年よりも前に到来したら、私たちの未来はいったいどうなるのでしょうか?

次回の最終回にご期待ください。