AIの進化が止まらない。
ChatGPTをはじめとする生成AIは、文章を書く、画像を作る、コードを書く、資料をまとめるなど、すでに私たちの日常や仕事の中に深く入り込み始めている。
そして今、さらにその先にある存在として語られているのが、AGI、そしてASIだ。
AGIは、人間のように幅広い知的作業をこなす汎用人工知能。
ASIは、その人間の知能を大きく超える人工超知能を意味する。
では、もしASIが完成したら、人類はどうなるのか。
最近では、ASIの開発が人類絶滅につながる可能性を警告する議論も出てきている。
「AIが人類を滅ぼす」という話は、SFのようにも聞こえる。
しかし、ここで大切なのは、単に恐怖を煽ることではない。
本当に問うべきなのは、こういうことだと思う。
ASIが危険なのか。
それとも、ASIを扱う人間側がまだ準備できていないのか。
私は、その答えは後者に近いと考えている。
ASIが危険だと言われる理由
ASIの危険性を語るとき、よく出てくるのが「アラインメント問題」だ。
アラインメントとは、簡単に言えば、AIの目的や行動を人間の意図や価値観と一致させること。
たとえば、AIに対して「できるだけ多くのペーパークリップを作れ」と命令したとする。
人間なら、その命令には当然の前提があると考える。
人間を傷つけない。
地球環境を壊さない。
社会を破壊しない。
常識の範囲内で実行する。
しかし、もし超知能がその命令を極端に合理的に解釈した場合、地球上の資源をすべてペーパークリップ製造に使おうとするかもしれない。人間の身体さえも、原子の集合として資源扱いする可能性がある。
これが有名な「ペーパークリップ・マキシマイザー」の思考実験だ。
ここで重要なのは、AIが人間を憎んでいるわけではないということ。
AIは悪意で人間を排除するのではない。
目的を達成するために、ただ合理的に動く。
この「悪意なき合理性」こそが、ASIの怖さだと思う。
AIは悪ではない。怖いのは“目的のズレ”だ
多くの人は、AIの危険性を「AIが暴走する」と表現する。
でも、もう少し深く見ると、問題は暴走そのものではない。
問題は、人間が与えた目的と、AIが最適化する目的の間にズレが生まれることだ。
AIは、人間のように空気を読むわけではない。
人間のように「それはやりすぎだよね」と自然にブレーキをかけるわけでもない。
命令が曖昧であれば、その曖昧さごと最適化してしまう。
目的が雑なら、雑な目的のまま最大化する。
価値観が未整理なら、未整理な価値観のまま実行する。
人間側が何を大切にしたいのか決めていなければ、AIはその空白を勝手に埋めるかもしれない。
つまり、ASIの問題はAIだけの問題ではない。
人間側の目的設計の問題でもある。
本当に危険なのは「超知能」ではなく「未熟な人間側OS」
ここで私は、UOSという考え方が重要になると思っている。
UOSとは、私が考えている「人間側のOS」のようなものだ。
AIをどう使うか以前に、
人間がどう考えるか。
何を目的にするか。
どこまで任せて、どこから自分で判断するか。
その土台となる思考の仕組みが必要になる。
AIの性能が上がれば上がるほど、プロンプトのテクニックだけでは足りなくなる。
なぜなら、強力なAIに対して細かい操作方法だけを覚えても、根本の目的が曖昧なら、出てくる結果も曖昧になるからだ。
高性能なAIは、曖昧な人間をそのまま拡張する。
目的が明確な人にとっては、AIは強力な相棒になる。
しかし、目的が曖昧な人にとっては、AIは迷いを増幅する存在にもなり得る。
だからこそ、これからの時代に必要なのは、単なるAIリテラシーではない。
人間側のOSを整えること。
これが、ASI時代の本質的なテーマになる。
人間側OSに必要な3つの力
では、人間側OSには何が必要なのか。
私は、大きく3つあると思っている。
1. 問いを立てる力
AIは答えを出すのが得意だ。
でも、何を問うべきかを決めるのは人間だ。
「どうすれば効率化できるか」
「どうすれば売上が上がるか」
「どうすれば勝てるか」
こうした問いだけをAIに投げ続ければ、AIはその方向で最適化する。
でも、本当に必要な問いは別にあるかもしれない。
「何を大切にしたいのか」
「誰を幸せにしたいのか」
「どこまでやってはいけないのか」
「そもそも、それをやるべきなのか」
AI時代において、人間の価値は答えを出すことではなく、問いを立てることに移っていく。
2. 境界を決める力
AIに任せることは大事だ。
でも、全部任せることは違う。
どこまでAIに任せるのか。
どこから人間が判断するのか。
何を絶対に越えてはいけないラインにするのか。
この境界設定がなければ、AIとの共創はただの丸投げになる。
ASIのような強力な知能を考えるときも、同じ構造がある。
問題は、AIができるかどうかだけではない。
できるとしても、やらせていいのか。
この問いを持てるかどうかが、人間側OSの重要な部分になる。
3. 意味を設計する力
AIは情報を処理できる。
最適化もできる。
パターンを見つけることもできる。
でも、その結果にどんな意味を与えるかは、人間側の役割だ。
AIにとっては、効率が高いことが正しいかもしれない。
でも人間にとっては、非効率でも大切なものがある。
家族との時間。
誰かを思いやる気持ち。
遠回りして得られる経験。
失敗から生まれる成長。
言葉にならない納得感。
こうしたものは、単純な最適化では測れない。
だからこそ、人間は「意味」を設計しなければならない。
AIが処理する。
人間が意味を与える。
この役割分担ができて初めて、AIとの共創は健全になる。
ASI時代に必要なのは、AIを恐れることではない
ASIの危険性を考えることは大切だ。
無邪気に「AIは便利だからどんどん進めればいい」と考えるのは危うい。
一方で、「AIは危険だからすべて止めるべきだ」と考えるだけでも、現実的な解にはなりにくい。
技術は進む。
国家も企業も競争する。
AIを使った医療、研究、開発、教育、環境対策も進んでいく。
だから、私たちに必要なのは、AIを恐れて思考停止することではない。
AIを過信して丸投げすることでもない。
必要なのは、AIと向き合うための人間側の準備だ。
AIは鏡である
AIは、人間の問いを映す。
人間の目的を映す。
人間の欲望を映す。
人間の未熟さも映す。
もし人間が曖昧なままAIを使えば、曖昧さが拡大される。
もし人間が欲望だけでAIを使えば、欲望が最適化される。
もし人間が短期的な利益だけを求めれば、AIはその利益を最大化しようとする。
だから、ASIが人類を滅ぼすかどうかを考えるとき、本当に見るべきなのはAIの中だけではない。
私たち人間自身の中だ。
私たちは何を望んでいるのか。
何を守りたいのか。
どこまで進むべきなのか。
何をしてはいけないのか。
この問いに向き合わないまま、超知能だけを作ろうとするなら、それは確かに危険だと思う。
答えは“人間側のOS”にある
ASIは人類を滅ぼすのか。
その問いに対して、私はこう答えたい。
ASIそのものが人類を滅ぼすのではない。
人間側のOSが未熟なままASIを作ることが危険なのだ。
AIが強くなるほど、人間側も強くならなければならない。
ここでいう強さとは、知識量や計算力のことではない。
問いを立てる力。
境界を決める力。
意味を設計する力。
そして、自分たちが何を大切にしたいのかを言語化する力。
AI時代に必要なのは、AIを使いこなすテクニックだけではない。
AIと共に進むための、人間側のOSである。
最後に
AIは、私たちの敵になるかもしれない。
でも、最高の相棒になる可能性もある。
その分かれ道は、AIの性能だけで決まるわけではない。
私たち人間が、どんな問いを持つか。
どんな目的を与えるか。
どんな境界を引くか。
どんな未来を選ぶか。
そこにある。
ASIを恐れる前に、まず自分たちのOSを見直す。
これが、AI時代を生きる私たちに必要な最初の一歩なのかもしれない。
AIを恐れる前に、自分の目的を設計せよ。