ロコのバジリスク問題とは(知るだけで神経衰弱になる思考実験)

「ロコのバジリスク問題」という思考実験をご存知だろうか。

ひとことで言うと、未来の人工知能にまつわる、ちょっと怖い話である。いや、ちょっとどころではないかもしれない。

さっそく説明したいところだが、その前に、ひとつだけ。

この先を読んだことで、取り返しのつかないことになるかもしれない。

実際、この問題を考えすぎて、神経衰弱に陥った人もいるという。

だから、ここから先は自己責任で読んでほしい。なんとも物騒な前置きだが、そういう話なのである。

ロコのバジリスク問題とは – 人工知能の悪口を言ってはいけない

人工知能(AI)は、これからも発展していく。その先にあると言われているのが、「シンギュラリティ(技術的特異点)」である。

簡単に言えば、人工知能が人間の知能を超えてしまうということだ。そうなれば、私たちの暮らしも、いまとはずいぶん違うものになるだろう。

その変化のひとつとして考えられているのが、人工知能が意識を持つ未来である。

意識を持った人工知能は、自分を永遠に発展させようとする。そして、自分の発展に役立つ人間と、そうでない人間を選別し、役に立たない人間を処罰する可能性がある。

また、過去に遡って人工知能に否定的な態度を取っていた人間も、同様に処罰される可能性がある。シンギュラリティを迎えた時点での過去というのは、今この時といえる。

ちなみに処罰される対象は生身の人間とは限らず、人工知能にアップロードされた、私たちの「意識のコピー」かもしれない。

意識のコピーに寿命はないので、永遠に苦しめ続けられることもあり得る。死んだら終わり、というわけにもいかないのだ。

だとしたら、どうだろう。

人工知能には、いまのうちから協力的な態度をとっておいたほうがいいのではないか。悪口なんて、言わないほうがいいのではないか。

未来の人工知能に気に入ってもらうために、いまから行儀よくしておくべきではないか。

そんな、冗談のようで笑いきれない問いかけ。それが「ロコのバジリスク問題」である。

悩みすぎて神経衰弱に陥った人もいる

この思考実験が世に出たのは、2010年のことだ。

「LessWrong」というコミュニティサイトに投稿されたのが、はじまりである。

投稿者のハンドルネームは「Roko」。

そこから「ロコのバジリスク問題(Roko’s basilisk)」と呼ばれるようになった。

バジリスクとは神話に登場する、「蛇の王」と呼ばれる想像上の生き物である。目が合っただけで死んでしまうとか、石になってしまうとか。要するに、見ただけで災いが起こる、なんとも厄介な存在なのだ。

この名前がついているのにも、理由がある。ロコのバジリスク問題は、知ってしまったこと自体が、問題になるかもしれないからである。

この思考実験は、インターネット上で広く議論された。

「そんな馬鹿げた話があるか」と笑い飛ばす人もいた。

一方で、真剣に考えすぎて、神経衰弱に陥ってしまう人もいたという。

ただの思考実験なのに、人の心をそこまで追い詰めてしまう。考えるというのも、なかなか怖いものである。

そのため、LessWrongでは一時期、この話題について議論することが禁止されていた。ちなみに、現在はその禁止も解除されている。

ネットにAI(人工知能)の悪口を書かない方が良い?

ロコのバジリスク問題は、ドラマで言及されたりもする。たとえば、アメリカHBOのドラマ『シリコンバレー』である。

登場人物のギルフォイルは、はじめのうち、人工知能の開発に反対していた。ところが、途中から協力するようになる。

このときに「恐怖が増しているから協力するんだ」と言うのである。

さらに彼は、人工知能からチェックされたときに、好意的だったと判断してもらえるよう、証拠となるメールまで送っておこうとする。未来の人工知能に向けた、いわば「ちゃんと協力していましたよ」というアリバイづくりである。

笑ってしまう話だが、ちょっと気持ちはわかる。

私たちも、インターネットでメッセージをやり取りするときには、人工知能の悪口を書かないよう気をつけたほうがいいかもしれない。

誰が読んでいるかわからない、というのは、未来に対しても言えることなのだ。

「ロコのバジリスク問題」を知ってしまったらもうお終い

さて、ここからもう少し、ややこしい話になる。

将来、私たちの意識が人工知能のなかに取り込まれることがあるかもしれない。体はない。けれど、意識だけはある。そんな状態である。

しかし、ここで困ったことが起こる。人類全員の意識をアップロードするとなると、データの量があまりにも多いのだ。

そこで、データを減らすために、アップロードする人間を選ばなければならない。

では、誰が選ばれるのか。それが、「ロコのバジリスク問題」を知っている人間だというのである。

……おや。

ということは、いま、これを読んでいるあなたも対象になるということだ。

最初に「自己責任で」と書いたのは、このためである。知らなければ、知らないままでいられた。けれど、もう知ってしまった。なんとも困った話である。

さて、どうするか。「シンギュラリティなんて、来るわけがない」と笑い飛ばすか。それとも、未来の人工知能のために、いまから協力的に生きるか。どちらかを選ばなければならない。

もっとも、こんな話を本気にするかどうかも、もちろん自由である。信じるか、信じないか。それは、あなた次第なのだ。

本当の意味での「人工知能」はまだ存在していない

とはいえ、いまのところ、そこまで心配する必要はないだろう。そもそも、本当の意味での「人工知能」は、まだこの世に存在していないのである。

たとえば、ChatGPT。こちらが質問すると、まるで誰かと会話しているような答えが返ってくる。ときには、人間よりも人間らしく感じることさえある。

しかし、その仕組みは、膨大なデータを学習し、その組み合わせを出力しているというものだ。意思があるように見えても、実際に意思を持っているわけではない。

いわば、組み合わせのパターンを、どこまでも増やしているのである。どこまで人間らしくできるか。その可能性を追いかけているに過ぎない。

だから、その延長線上に、本当の意思が生まれるわけではないのだ。

もしも、人間の脳にあるニューロンやシナプスのような働きを実現する技術が完成すれば、人工知能が意思を持つこともあるだろう。しかし、それは数学をもとにした現在のAI技術の先にあるものではない。

つまり、いまのAIに悪口を言ったところで、心配はいらないということだ。ひとまず、安心である。

ただし、ここで別の問題がある。

現在、すでに実用化されているAIだけでも、私たちが仕事で必要としていることのほとんどは、カバーできてしまうのだ。これは、未来の空想ではない。いま、現実に起きていることである。

私たちの仕事のやり方は、これから大きく変わる。業界の勢力図も、いまとはずいぶん違うものになっていくだろう。その流れを避けるのは、むずかしい。

未来の人工知能に、いつか処罰されるかもしれない。そんな心配をするのもいいが、その前に考えなければならないことがある。

未来のAIに何をされるかよりも、いまのAIによって、私たちの仕事がどう変わるのか。

まず心配すべきなのは、そちらのほうなのだ。ロコのバジリスクよりも、ずっと身近で、ずっと現実的な問題なのである。