BILL JOY
2000.04.01 12:00 PM
[原文] [翻訳の参考に]
数々の新しいテクノロジーの構築に関わり始めたその瞬間から、僕はそれらの倫理面についてもずっと心配してきた。だけどついこの前の１９９８年の秋から、その時から僕は２１世紀に人類が直面する危機の凄まじさに本格的な不安を感じるようになった。その不安はレイ・カーツワイルに会ったその日から始まったと言える。彼は視覚障害者のための文章読み上げ装置の発明やその他数々の素晴らしい業績で有名な人物だ。
レイと僕は二人ともジョージ・ギルダー主催のTELE-COSMイベントの講演者として招かれていて、自分たちのセッションが終わった後に僕は偶然にもそのホテル会場のバーで彼に出会ったんだ。僕はバークレーで意識の研究をしている哲学者ジョン・サールと座っていた。僕たちが話している時にレイが近づいてきて、それから会話が始まった。その時の内容が今日に至るまでずっと僕に付きまとっている。
僕は聞き逃したのだけれど、レイは自分の講演の後にジョンと一緒にパネルディスカッションに参加していた。だからだね、彼らは僕の目の前でまた討論の続きを始めたんだよ。レイが言うには、テクノロジーの発展の度合いは加速するはずだから僕たちはロボットになるか、ロボットと合体するか、それに近い何かになるはずだってね。そしたらジョンはそれは有り得ないって反論するんだ。ロボットは自意識を持つことができないから、って。
そんな話が出る時、僕はいつも決まって意識を持つロボットなどは空想科学の世界の中にしかいないって考えていた。それが今、尊敬している人が僕の目の前で、それらを差し迫った可能性として激しく議論しているわけだ。ビックリしたよ。何と言っても未来を予測し、そして作り出してしまうレイの能力は証明済みだったからね。もちろん僕だって、遺伝子工学やナノテクノロジーといった新しい技術が世界を作り変えていることは知っていた。でも、知性を持ったロボットについての現実的かつ切迫した彼のシナリオには驚かされた。
この手の話にうんざりさせられることはよくある。ニュースでもほとんど毎日、何らかの技術的あるいは科学的な発見なんかが報道される。でも、あれはそこら辺に転がってるような予測なんかじゃなかった。あのホテルのバーで、レイは出版予定の自分の本のコピーの一部を僕にくれた。その本はスピリチャルマシーンの時代というタイトルで、彼が予見する理想の世界を説明していた。その本では例えば、ロボット工学を利用して人類が不死に近いものを手に入れることなどが説明されている。それを読んで、自分の不安がただただ大きくなるのを感じたよ。彼は危険について強調し過ぎだ、その代償を間違いなく大げさに見積もっている。僕はそう感じた。
その中でも特に、悲劇に関して詳しく予測する下りには大きな困惑を感じたのを覚えている。
新しいラッダイトたちの挑戦
まずはじめに、コンピュータ科学者たちが知能を持ったマシンの開発に成功したと仮定しましょう。それらのマシンたちは全てにおいて私たち人間より物事を上手にこなすことができるのです。この場合だとおそらく、全ての仕事が高度に組織化された巨大なマシンシステムによって管理されており、人間の労力が必要とされることは一切ないでしょう。つまり、次の２つのどちらかの状況が予想されるわけです。人間の監視抜きに全ての決定を下すことがマシンたちに許されている状況、あるいは人間たちによるマシンへの監視がいくらか続いている状況です。
もしも、人間の監視抜きに全ての決定を下すことがマシンたちに許されているとするならば、結末を予想することなど絶対に無理でしょう。なぜなら、マシンたちがどのような動きをするかなど予測不能だからです。この場合ハッキリしているのは、人類の運命はマシンたちの御心次第だということです。人類はマシンに全権を渡してしまうほどバカではないと強く主張する人もいるでしょう。ただ私たちは、人類が自ら権力をマシンに渡してしまうとか、マシンたちが意図的に権力をつかみ取ってしまうとか、そのようなことを述べている訳ではありません。私たちが懸念しているのは次のこと、つまり、マシンたちによって下される決定を受け入れざるを得ないような、その他に現実的な選択肢が得られないような、そのようなマシン依存の状況に人類がいとも簡単に（しかも自ら）流れ込んでしまうということです。