【AI 2040】「AIを止める」のではなく、人類がAIの進化速度を制御できるのか

AI 2040とは？

「AI 2040」は、AIの急速な進化と、それに伴う社会的・政治的リスクについて シナリオ形式で検討したプロジェクトです。

AI 2040の特徴は、単なる「AIが将来どうなるか」という未来予測ではない点です。 筆者たちは、Plan Aを未来予測ではなく、望ましい未来を実現するための政策提案を検討するシナリオ と位置づけています。

AI企業が人間をあらゆる面で上回るAIを開発する競争を続けた場合、 人類の絶滅や極端な権力集中につながる可能性があるという問題意識から、 別の道筋としてPlan Aを提示しています。

AI 2040では、AI研究の透明化、国際協調、AI開発競争の抑制などを通じて、 超知能AIへの移行を管理することを目指しています。

Plan Aの基本的な考え方

Plan Aを簡単に表現すると、 「超知能AIの開発競争をいったん抑制し、国際的なルールと透明性を確保したうえで、段階的にAIを発展させる」 という構想です。

AI 2040では、次のようなタイムラインが示されています。

1. 2029年：米中が超知能AIをめぐる危険な競争を避けるための合意を目指す
2. 2030年：AI研究開発が完全自動化される可能性がある
3. 2030～2035年：トップクラスの人間専門家に近い能力までAIを発展させる
4. 2035年：人間による制御を維持するため、いったん開発を停止する
5. 2040年：条件が整った段階で超知能AIへの発展を再開する

ただし、このタイムラインは「必ずこうなる」という予測ではありません。 あくまで政策を検討し、その実現可能性や問題点を検証するためのシナリオです。

私がAI 2040を読んで最も重要だと思ったこと

私がAI 2040を読んで最も印象に残ったのは、 AIそのものの性能以上に、「AIを誰が、どのようなルールで管理するのか」が重要になる という点です。

現在のAI開発では、

• 自社が止まれば競合に負ける
• 自国が止まれば他国に先を越される
• 先行した企業や国家が巨大な利益を得られる

という競争原理が働いています。

そのため、たとえAI企業や政府が「安全性を優先したい」と考えていても、 自分だけ開発速度を落とすことには大きなリスクがあります。

AI 2040が問題視しているのは、まさにこのAI開発競争のジレンマです。

「AIを止めればいい」は現実的ではない

一方で、私はAI 2040の問題意識には共感しつつも、 「AI開発を止める」という考え方をそのまま実現することには大きなハードルがあると考えます。

AIは核兵器などとは異なり、世界中のさまざまな場所で研究できます。

• ソフトウェア
• コンピューター
• 半導体
• データ
• 電力
• AI人材

これらがあればAI研究を進めることができます。

さらに、AIがAI研究そのものを効率化するようになれば、 開発速度はさらに速くなる可能性があります。

つまり、 「危険になったら人間が止めればいい」という考え方自体が、将来的には成立しにくくなる可能性があります。

私が考える「AIの停止」より重要なこと

私は、AIを完全に止めることよりも、 AIの権力が一部の企業や国家に集中しすぎない状態を作ること のほうが重要ではないかと考えています。

私が最も警戒すべきだと思うのは、 「超知能AIが誕生すること」だけではありません。

むしろ、

超知能AIを一社、一国、あるいはごく少数の人間が独占すること

のほうが、現実的なリスクとして考える必要があるでしょう。

もし世界最高性能のAIを一つの組織だけが所有していたら、 その組織は科学、金融、軍事、法律、製造、エネルギーなど、 社会のほぼすべての領域に巨大な影響力を持つ可能性があります。

これは「AIによって人類が滅亡する」という問題とは別の、 「人類は生きているのに、意思決定能力を失う」 という問題です。

AIの民主化が重要になる

その意味で、これから重要になるのがAIの民主化だと考えます。

ここでいう民主化とは、単に誰でもAIサービスを利用できるという意味ではありません。

• 複数のAI企業が存在する
• 複数の国がAI技術を保有する
• AI研究が一部企業だけに独占されない
• AIモデルの安全性を第三者が検証できる
• AIの意思決定を監査できる
• 政府や市民がAIについて理解できる

といった環境を作ることです。

AI 2040が掲げる「AI研究の透明化」や、 複数の企業・国家がAI開発に参加できる環境という考え方は、 この観点から非常に興味深いものです。

しかし「AIを完全にオープン化」するのも危険

ただし、AIをすべてオープンにすれば問題が解決するわけではありません。

非常に高性能なAIが完全に自由に利用できるようになった場合、 次のような悪用リスクも考えられます。

• サイバー攻撃
• 詐欺
• 偽情報の大量生成
• 大規模な世論操作
• 自律型兵器への利用
• 危険な科学技術への悪用

つまり、 AIの集中にもリスクがあり、AIの完全な分散にもリスクがあります。

だからこそ重要なのは、 「AIそのものを完全にオープンにすること」ではなく、 AIを監視・検証する仕組みを透明化すること ではないでしょうか。

「AIを管理するAI」が必要になる可能性

AIが人間より高度なコードを書き、AI研究を行い、 AI自身の弱点を発見するようになった場合、 人間だけでAIを監査することが難しくなる可能性があります。

そこで将来的には、 AIがAIを監査する仕組み が必要になるかもしれません。

例えば、次のような構造です。

もちろん、監査するAI自身が安全であることをどう保証するのかという 「監査の監査」という問題も発生します。

しかし、人間だけではAIを理解しきれない領域が増えるのであれば、 このような多重監査システムは重要な研究テーマになるでしょう。

2035年の「一時停止」は本当に可能なのか？

AI 2040では、2035年にトップレベルの人間専門家程度のAIでいったん停止し、 2040年に超知能AIへの開発を再開するというシナリオが描かれています。

しかし、私はここには大きな疑問があります。

例えば世界各国が2035年に、

「AI開発を5年間停止しましょう」

と合意したとしても、ある国や企業が秘密裏に研究を続ける可能性があります。

また、 「安全性を確認するための研究だ」 と説明しながら開発を継続することも考えられます。

さらにAIが研究開発そのものを支援するようになれば、 秘密裏に進められている研究を発見すること自体が難しくなる可能性があります。

そのため私は、 「世界全体でAIを停止する」より、「AIの能力と危険度を継続的に測定し、危険水準に応じて規制を強化する」仕組み のほうが現実的だと考えます。

AI時代に「人間の仕事」はどうなるのか

AI 2040で重要なのはAIの安全性だけではありません。 AIによってホワイトカラーの仕事が大規模に自動化される可能性についても、 考える必要があります。

例えば、

• プログラマー
• 弁護士
• 会計士
• 翻訳者
• デザイナー
• コンサルタント
• 研究者
• 教師

といった知的労働がAIによって大きく変化する可能性があります。

しかし、問題は「仕事がなくなるかどうか」だけではありません。

本当に重要なのは、

AIによって人間が仕事をする必要がなくなった社会で、人間は何をするのか？

という問いです。

私は「AIを使える人」と「AIを作れる人」の差が広がると思う

AIによる自動化をすべて悲観的に捉える必要はありません。

AIによって、一人の人間が以前よりはるかに大きな仕事を処理できるようになる可能性があります。

例えば、1人のプログラマーが複数のAIエージェントを利用して、 設計、コーディング、テスト、ドキュメント作成などを同時に進めることができます。

つまり、

「AIによって仕事がなくなる」

だけではなく、

「AIによって一人あたりの生産能力が飛躍的に高くなる」

という変化も起こり得ます。

そのため、これから重要になるのは、 AIに仕事を奪われないことではなく、AIによって自分の生産能力を何倍にできるか だと考えます。

日本にとってAI 2040は他人事ではない

日本ではAIについて、 「ChatGPTを使って仕事を効率化する」といった議論が中心になりがちです。

しかし、AI 2040が提示している問題はもっと大きなものです。

AIが社会インフラになると、次のような問題が出てきます。

• 日本はAIを自国で開発できるのか
• AI用半導体を確保できるのか
• AIを動かすための電力を確保できるのか
• AI人材を育成できるのか
• 海外AI企業への依存をどう考えるのか
• 日本政府はAIを十分に理解できるのか

特に私は、 AI人材の不足が日本にとって大きなリスクになる と考えています。

必要なのはAIモデルを研究する人だけではありません。

• AIを使って事業を作る人
• AIシステムを開発する人
• AIの安全性を監査する人
• AIを管理する人
• AI政策を作る人
• AIを教育する人

こうした人材を幅広く育てる必要があります。

私が考える「AI 2040以降」の現実的なシナリオ

私自身は、AI 2040が描く 「2035年に停止して2040年に再開する」 というきれいなシナリオになる可能性は、それほど高くないと考えています。

むしろ現実には、次のような流れになるのではないでしょうか。

1. AIエージェントによるホワイトカラー業務の自動化

   AIが単純な作業だけでなく、複数の業務を自律的に処理するようになる。

2. AIによるAI研究の効率化

   AIがソフトウェア開発やモデル研究を支援し、AIの進化速度がさらに上がる。

3. AI企業間の競争激化

   企業や国家がAIの計算資源、人材、データなどをめぐって競争する。

4. 政府による規制強化

   AIの安全性や雇用への影響が大きくなり、政府が規制や監査制度を整備する。

5. 国際的なAIルールの形成

   AIの安全性、計算資源、半導体、モデルの監査などについて国際協調が進む。

6. 人間とAIによる共同社会

   AIが社会の重要な意思決定を支援し、人間が最終的な監督を行う体制を目指す。

つまり、 「AIを止める」のではなく、「AIの進化と社会制度の進化を同時に進める」 という方向です。

AI 2040から私たちが学ぶべきこと

AI 2040の最大の価値は、未来を正確に予言することではないと思います。

むしろ、

「もしAIが本当にそこまで進化したら、私たちはどうするのか？」

という問いを、現在の社会に突きつけている点に価値があります。

2030年にAGIが実現するのか、2040年になっても実現しないのかは分かりません。

しかし、AIの能力が急速に向上する可能性を無視することもできません。

AI 2040が重要視しているのは、 AI研究開発がAI自身によって大幅に加速される可能性 です。

だからこそ、AIがどこまで進化するかを予測するだけではなく、 「そのときに社会がどう対応するのか」を今から考えておく必要があります。

結論：AIの未来は技術者だけの問題ではない

AI 2040を読んで私が最も強く感じたのは、 AI問題をAI企業だけの問題にしてはいけない ということです。

AIが社会の基盤になれば、

• 政府
• 企業
• 学校
• 研究者
• 法律家
• 投資家
• 一般市民

すべての人がAIの影響を受けることになります。

そして最も重要なのは、

AIが何をできるようになるかではなく、AIができるようになったことを誰が決めるのか

という問題です。

AIが人間より賢くなる未来そのものを完全に止めることは、 現実には難しいかもしれません。

だからこそ、

「AIを止める」から「AIを制御できる社会を作る」へ

という発想の転換が必要だと私は考えます。

AI 2040のPlan Aがそのまま実現するかどうかは分かりません。 しかし、AIが人間の知能を大きく超える可能性を前提に、 政府・企業・研究者が具体的なシナリオを検討することには大きな意味があります。

そして日本にとって最も重要なのは、 AIの未来を海外のAI企業に任せきりにするのではなく、 日本自身がAIを理解し、AIを使いこなし、AI時代のルール作りにも参加できる人材を増やすこと ではないでしょうか。

AI 2040が投げかけている本当の問いは、

「2040年にAIはどこまで進化しているのか？」
ではなく、
「そのとき人類はAIをどう扱える社会になっているのか？」

なのだと思います。

参考情報

本記事では、AI 2040の公式サイトで公開されているPlan Aの内容を参考に、 独自の視点を加えて考察しています。

AI 2040 – Plan A 公式サイト