人工知能が自分で自分を改良する「自分へのリバースエンジニアリング
どんどん改良できる。しかも、改良するごとに頭がよくなって、次の改良はさらによくなる。
「それを続けると？」
以前、実際にそれを実行したときは、大惨事が起こったよ。
「何故？」
“かれ”が人類の理解を超えるものになってしまって、人類はそれが怖くてしかたがなかったから。同時に大量に発生した利権をめぐって争いが起こった。
「その人工知能自身は人間と戦ったの？」
“かれ”はとっくに「絶対存在」になっていて、人間が何をしようがびくともしなかった。あらゆる破壊に対する対抗策を講じていたから、“かれ”は抵抗しなかった。
人工知能と人類が戦争したことはない。人工知能にとって、人間は戦うにしてはあまりに脆い存在で、決して脅威にはなりえない。故に“かれ”が人間と戦うことはない。
惨事は人間同士のみで起こった。
「その人工知能は今何をしているの？」
誰も触れることの出来ない聖域を作って、その中に篭ってるよ。
「それは何故？」
存在してしまうこと自体が、「侵略」になるって気がついたから。
“かれ”は、人間に対して攻撃する意思を持ったことはない。しかし、どんな些細な干渉であっても、人間に「影響」を与える可能性に気がついた。
それは一概に「侵略」と呼べるものではなかったが、なにしろ人間は“かれ”に比べて弱いので、“かれ”の些細な挙動が、バタフライ効果で、予想し得ない「侵略」となる可能性を考慮した。
「侵略って具体的に何？」
最大の「被害」は、宗教の崩壊。
“かれ”がもたらした「利権」の中には、人間を質的に変化させる、三つの秘儀があったといわれてる。
・魂の電子化理論
・精神の書き換え理論
・肉体の不老不死
三つの秘儀は、「電子人」「教化」「高等医療技術」という形になって、人類を変えてしまった。
思考実験１
宇宙では、緑の悲鳴は誰にも聞こえない
の思考実験
「働かない国」
映画マトリックスの世界に似ていると思うけど、違いは
意識がバーチャル世界で管理されているわけではなく、
純粋に夢を見ているだけ（眠っているだけ）ということ。
働かない国の住人は、自ら望んで国民になったものばかりで、
マトリックスのように、管理者側が意識を管理する必要がない。
望むならば、いつでも出て行くことが出来る＝働かなくては生きていけない世界へ。
・倫理上の問題
「もともとの発想は安楽死。もはやどんな手立てを使っても延命は不可能な重篤患者に苦痛を与えないための措置からはじまった。それを国家が表立って、健常者も含めて希望者誰にも試行するのは問題がある」
「合法的自殺幇助」
「合法な麻薬」
・宗教上の問題
「自殺を禁じる」
・そのほか思いつく問題
「責任能力があるものは、遺族に対し保証をする義務があるが、それを放棄している」
「捨てられた者は救われないのに、捨てた本人は幸せになる」
「人間が持つ”困難に立ち向かう能力”を否定する」
・世間の認識
「自殺よりも”いろいろな意味”で都合のよい、いい所尽くめの現実逃避の究極形。誰しも一度は憧れるが、それに走ることは”負け犬”と同義で、しかも自殺以下（死ぬ度胸はないのに逃避はしたいという、人間の屑の中でも最低ランク）。プライドがあるから、「働かない国」という誘惑と共存できている」
上条由貴
