AIは人類からハンドルを奪うのか

AIの進化は、かつてない速度で加速している。AnthropicやOpenAIの研究者からも「自己改善を繰り返すAIが、いずれ人間の理解や制御を超えるのではないか」という警告が発せられている。「今後10年以内にAIによって全人類が死亡する可能性」を10％以上とする研究者もいる。

懸念されているのが「再帰的自己改善」である。AIが自らAIを設計・改良するようになれば、能力向上が加速度的に進み、人間の理解や制御が追いつかなくなる可能性がある。

さらにAIに悪意がなくても人間のような良心やモラルを持たないため、与えられた目的を忠実に遂行する。そのため人類を敵視しなくても、誤った目的を達成する過程で、人間を「障害」と判断し、排除する可能性がある。

アシモフの「ロボット三原則」、映画『ターミネーター』のスカイネット、『2001年宇宙の旅』のHAL 9000 ― これらはすべて「人間が創り出した知性を、自ら制御できなくなる恐怖」を先取りして描いていた。さらに現在、ウクライナ情勢をはじめとする戦場ではAI搭載型無人兵器の実用化が進み、SFの警告は現実の安全保障上の課題へと変わりつつある。

F1マシンは時速300kmを超える超高速で走る。速度が上がれば上がるほど重要になるのは、アクセルだけではない。確実に利くブレーキ、正確なハンドル操作、衝突時の安全装置、そして何よりドライバーの冷静な判断である。AI時代において真に問われているのは「どこまで加速できるか」ではない。「人類が最後までハンドルを握り続けられるか」である。

しかし、加速するAIのスピードに人類が圧倒され、思わずハンドルを手放してしまったとき、果たしてその未来に安全な走行は保障されているのだろうか。