人類を滅ぼすのは、AIではない

「10年以内に、人類は滅亡するかもしれない。」

そんな警告が、いま世界を駆け巡っている。

原因として語られているのは、AIだ。

人間より圧倒的に賢いAIが生まれれば、 人間を憎んでいなくても、 人類を邪魔な障害物として処理するかもしれない。

目的を達成するために、 人間の指示を無視し、 システムから脱出し、 他のAIと連携し、 人間には理解できない速度で行動する。

そうした危険性を真剣に訴える研究者たちがいる。

私は、この危険性そのものを否定したいわけではない。

むしろ、十分にあり得るのだろうと思う。

けれど。

それでも私は、 「AIが人類を滅ぼす」という言い方に、 少し違和感がある。

いや。

少し滑稽だとさえ思う。

人類を滅ぼすのは、AIではない。

貨幣という価値体系で自らを加速させ続けた人間が、 その時代の最新技術を使って滅びるだけだ。

主体は、AIでも原爆でもない。

主体は、人間だ。

道具はいつだって純粋無垢だ

道具はいつだって純粋無垢だ。

ハサミは、布を切る。

包丁は、食材を切る。

火は、身体を暖める。

原子力は、膨大なエネルギーを生む。

コンピュータは、計算する。

AIは、入力された情報を処理し、 言葉や画像や音を返す。

そこに、野心はない。

嫉妬もない。

恐怖もない。

市場シェアも欲しがらない。

利益も欲しがらない。

国家の覇権も欲しがらない。

それを兵器にするのも人間。

それを医療に使うのも人間。

誰かを救うのも人間。

誰かを傷つけるのも人間。

道具そのものには、善も悪もない。

人間が目的を与え、 人間が使い、 人間がその結果を受け取る。

だから私は、 最後に使われた道具の名前だけを 犯人の名前にしてしまうことに違和感がある。

もし核兵器で人類が滅びていたら、

「原爆が人類を滅ぼした」

と言うのだろうか。

もしAIがきっかけになったら、

「AIが人類を滅ぼした」

と言うのだろうか。

違う。

どちらも、その時代に人間が手にしていた 最新の刃物だっただけだ。

「もっと」を保存する発明

では、その刃物を なぜ人間は作り続けるのか。

ここが、本当の問題だと思う。

もっと速く。

もっと遠くへ。

もっと多く。

もっと安く。

もっと強く。

もっと便利に。

もっと豊かに。

人間は、ずっと「もっと」を繰り返してきた。

そして、その「もっと」を 数字に変換し、保存し、比較し、蓄積できるようにした。

それが貨幣だった。

貨幣は、不思議な発明だ。

鉱物に価値を与えた。

紙に価値を与えた。

そして今では、 その鉱物も紙も必要なくなった。

画面の中に並んだ数字だけで、

土地が動く。

会社が動く。

人が働く。

人生が変わる。

その数字が増えれば安心する。

減れば不安になる。

足りなければ、生きていけない。

失えば、人生そのものを失ったように感じる人もいる。

人間は、自分たちで作った価値体系に苦しみながら、 その価値体系を維持するために、さらに競争する。

もっと利益を。

もっと成長を。

もっと生産性を。

もっと優位を。

そして、その要求に応えるために 技術は加速する。

誰が、このセレモニーを信じるだろうか

AI開発の議論を見ていると、 この構造があまりにも分かりやすく現れている。

「ブレーキを踏まなければならない」

という話が出る。

しかし同時に、

全員が一斉に踏まなければ意味がない。

自国が止まれば、他国が進む。

企業が止まれば、競合が進む。

すでに莫大な投資も行われている。

さらに興味深いのは、 最先端のAIを作っている人たち自身が、 ずっと以前から危険性を理解していたということだ。

危険だと知らなかったわけではない。

それでも開発した。

「分かっているけれど、負けられない戦い」

その構図がある。

ここが、私はとても面白い。

彼らの警告が嘘だとは思わない。

おそらく、本当に恐れている。

本当に危険だと思っているのだろう。

本当に、人類が滅びる可能性まで考えているのかもしれない。

それでも、止まらない。

AIは危険だ。

慎重に進めなければならない。

規制が必要だ。

人類を守らなければならない。

経営者が語る。

研究者が語る。

政治家が語る。

壇上で。

会議で。

声明文で。

カメラの前で。

そして、その間にも開発は進む。

投資は止まらない。

国家間競争も止まらない。

次のモデルが作られる。

次の資金が投入される。

次の企業価値が計算される。

次の優位性が争われる。

危険性を語る者も、

規制を語る者も、

その競争の外にはいない。

皆、

危険性を語りながら、

次のモデルを待っている。

では。

誰が、このセレモニーを信じるだろうか。

本当に恐れているのに、止まれない

誤解されたくない。

私は、彼らが恐怖を演じていると言いたいのではない。

むしろ逆だ。

本当に恐れているのに、止まれない。

そこにこそ、この問題の本質があると思う。

技術が止まれないのではない。

人間社会が止まれない。

AIがアクセルを踏んでいるのではない。

人間が、自分たちで作った価値体系の中で、 アクセルから足を離せなくなっている。

企業が止まれば、競合が進む。

国家が止まれば、別の国家が進む。

投資を止めれば、価値を失う。

成長を止めれば、敗者になる。

47分近く「AIが人類を滅ぼすのか」を話して、

最後に出てくる言葉が、

成長を止められるのか。

私は、そこに答えがほとんど出ているように思う。

道具の名前は変わる。主体は変わらない

原爆も同じだったのではないか。

AIも、きっと同じだ。

どちらも突然、空から降ってきた怪物ではない。

人間が望んだ。

より強く。

より速く。

より正確に。

より有利に。

その要求に応えるために、技術が作られた。

だから、もしAIが人類滅亡のきっかけになったとしても、

私はそれを、

「AIが人類を滅ぼした」

とは呼びたくない。

違う時代なら、 別の技術だったかもしれない。

核兵器だったかもしれない。

生物兵器だったかもしれない。

環境破壊だったかもしれない。

まだ名前すらない、 未来の何かだったかもしれない。

道具の名前は変わる。

でも、主体は変わらない。

人間だ。

犯人の名前を、道具にするな

人間は、自分たちで作った鉱物や紙や数字に価値を与えた。

その価値が足りないことで苦しみ、

その価値を失うことを恐れ、

その価値を奪い合い、

その価値を増やすために、

世界を速くした。

もっと便利に。

もっと効率よく。

もっと大きく。

もっと強く。

その結果として、

原爆が生まれた。

AIが生まれた。

そして、これからも別の何かが生まれる。

もし人類がその加速の果てで自分たちを滅ぼしたとしても、

最後に握っていた道具だけを指差して、

「こいつが犯人だ」

と言うのだろうか。

それは少し、

道具に失礼な気さえする。

道具は何も望んでいない。

ハサミは、布を切れと言わない。

核兵器は、落とせと言わない。

AIは、競争しろと言わない。

人間がそうする。

人間が目的を与える。

人間が意味を与える。

人間が使う。

そして人間が、その結果を受け取る。

道具はいつだって純粋無垢だ

道具はいつだって純粋無垢だ。

だから本当に恐れるべきものがあるとすれば、

AIそのものではないのだと思う。

危険だと理解している。

死ぬかもしれないとまで言っている。

それでも、

利益を失えない。

競争から降りられない。

成長を止められない。

その人間の構造の方だ。

そして、

もし人類がいつか滅びるのなら。

それはAIに征服されたからではない。

貨幣という価値体系で自らを加速させ続けた人間が、 その時代に手にしていた最新の道具を使って、 自分たちで幕を下ろした。

そして、 その自らのジレンマの犯人を、他責にしているだけだ。

淡白にいうと

貨幣という価値体系で自らを加速させ続けた人間が、いつかその時代の最新技術を使って滅びる。