J・P・ホーガン著「未来の二つの顔」――人と機械の未来は共栄？戦争？

「秋の夜長は読書とブログ」のお題とのことで、今日は最近読んだ小説について書いてみようと思います。

⇩作品はこちら

未来の二つの顔 (創元SF文庫)

SF界の巨匠ジェイムズ・P・ホーガン作のSF小説「未来の二つの顔」です。

といっても、SFは映画や漫画では時々嗜むものの、本格的なSF小説には全然触れたことがなくて、この作家さんも今回初めて知りました。

相当有名な方、有名な作品らしく、「誰コレ？何の小説？」みたいな顔をしていたら、貸してくれた子にあきれられてしまいました。

SFらしく、本作のテーマは「AI」です。

「愛」じゃないですよ。

Artificial Intelligence――人工知能の「AI」です。

将来AIがうちの業界ひいては社会に与える影響について私が雑談（妄想）をしていたのを聞いて、彼女はこの本を勧めてくれたようです。

正直なところ、慣れないジャンルの小説で、しかも海外翻訳作品なので登場人物がみんなカタカナで覚えにくいー、と思いつつも、せっかく貸していただきましたし、テーマも気になっていたので秋の夜長に読んでみました。

――とても面白く、そしてとても考えさせられる作品でした。

半信半疑で読み始めたのですが、グイグイ話に引きこまれて、ページを捲る手が止まらなかったのを覚えています。

そこそこは長い作品なのですが、それが気にならないほど、久しぶりに時が経つのも忘れて一気に読んでしまった小説です（おかげで完全寝不足に・・・）。

あらすじ

本作のあらすじを私が勝手にザッとまとめると以下のような話です（未読の人の楽しみを残すために、なるべくネタバレなしです）。

近未来の人類のお話です。

月面開発を進めている人類、月の或る小山が邪魔なので更地にする計画を立てます。

現地調査チームが測量をして、コンピューターに「あの山をなるべく早く除去する方法を考えろ」と指令を出します。

この時代にはコンピューターも高性能化しており、月面開発に導入されたシステムのおかげで、細かい計算や立案は機械に任せ、人は大まかな指示を出すだけでよくなっていたのです。

しかし、今回、コンピューターからの返答を見て調査チームは驚きます。

コンピューターは「作業終了まで21分」と言うのです。

いくらなんでもそんな短い時間で土木作業が済むはずがない、何かの間違いじゃないか、たまたま近くに土木機械が居るのだろうか、などと首をかしげる調査チーム。

間もなく、彼らを衝撃が襲います。

コンピューターはなんと、本来資源として宇宙に向かって射出するはずの月の岩石を弾丸として、その山を爆撃したのです。

爆撃いにより確かに山は平になりましたが、死者こそいなかったものの調査チームは損傷・負傷し、命からがらの状況でした。

そんな有り様でも、コンピューターは、計画を速やかに達成したとして、むしろ得意気で――

この事故を受けて、人類のお偉方の中で議論が起こります。

目下、地球のライフラインなどの重要なシステムも人工知能の管理に任せようとしていた時で、「本当に人工知能は安全なのか」という懸念が生まれたのです。

確かにコンピューターは計算は非常に高速で「頭もいい」と言えます。しかしコンピューターに「常識」を身につけさせるのが難しいのが課題でした。

事故時、指示を出した調査チームは暗黙のうちに「（常識的には）土木機械でやるはず」と想定して指示を出していたのですが、コンピューターはそんな「常識」は分かっておらず、あくまで「急げというから最速の方法」を実行したに過ぎません。

もし人工知能に地球の重要システムを任した時に、何かの「常識」の行き違いで「暴走」をしてしまったとすれば、それは人類にとって最悪の災厄となりえます。

実際に人工知能に任せてみないとそうなるかどうかは分からない、でも任せてみて事が起こってからでは手遅れ――人類は人工知能の利用を推進するべきか、撤退するべきか大きな岐路に立たされたのです。

そこで、人類は苦肉の策を編み出します。

ある植民用の宇宙ステーションを、小世界としてシミュレーションしてみることにしたのです。

人工知能に宇宙ステーションのライフラインを管理させ、人が実際にそこに住み生活します。

そして、人工知能の暴走を誘発するために、人工知能に「生存本能プログラム」を植え付け、人類が一部のシステムをあえてダウンさせて「痛み」を与えることで、その本能を焚き付けるのです。

暴走を誘発させても何も起きなければ安全。

暴走しても人類が簡単に制御（人工知能のスイッチを切ることが）できるなら安全。

暴走し、万が一手に負えなくなっても、宇宙ステーションを捨てれば地球に被害が無い。

うまい計画でした。

人類は機械の暴走に対抗できるよう万全の準備を進め、そして実行に移します。

――未来には二つの顔がある。

相対する未来は、人類最高の進歩か、最悪の破滅か。

果たして人と機械は共存できるのでしょうか。

人類史上最大の実験の結末はいかに？

機械は反逆するもの？

はい、この後は実際に本でお楽しみいただくとして(・ω・)

さて、本作でも見られる「人類VS機械」という構図、SFではしばしば見られる形態です。

例えば、人類と、AI率いるサイボーグ軍団の時空を超えた死闘を描く「ターミネーター」。

ターミネーター [DVD]

仮想現実の中で機械に飼いならされる人類の反逆を描く「マトリックス」

マトリックス 特別版 [DVD]

人を殺さないプログラムのはずのロボットが殺人を犯した？「アイ,ロボット」

アイ,ロボット 特別編 [DVD]

「火の鳥　未来編」でも、コンピューターに管理された都市国家の間で、コンピューターの勝手で核戦争が始まってしまう未来が描かれました。

火の鳥 (2) (角川文庫)

 などなど。

これだけ多くの作品があるということは、「人工知能が人類に反逆してしまうかもしれない」「人類の思いもよらない暴走をするかもしれない」そんな危惧を私たちは内心抱えているのかもしれません。

しかし、その一方で、私たちは「ドラえもん」を始めとして、ロボットとの共栄も夢見ます。

代わりに家事をやってほしい、代わりに仕事をやってほしい、代わりに管理・計算して欲しい、話し相手になって欲しい、遊び相手になって欲しい、そんな輝かしい未来も私たちは思い描きます。

ドラえもん (1) (てんとう虫コミックス)

人と機械の共栄の未来か、戦争の未来か、様々な人が様々な作品でそれぞれの思う未来像を提示していますし、私や皆さんの頭の中にも、十人十色の未来予想図があることでしょう。

その意味で、本作も著者ホーガンさんの描いた一つの未来予想図ということができますが、「機械は反逆するものなのかどうか」、小説ならではの密な議論や考察で、私たちの中の未来予想図も良い意味でかき乱してくれます。

そもそも、機械が人類に反逆すると言いますが、それは本当に反逆なのでしょうか？

人と同じように「人を殺したい」という感情に駆られて機械は人を殺すのでしょうか？

それは案外そうでもないことを、本作は私たちに考えさせてくれます。

■ロボット三原則

例えば、ロボットの三原則という有名なルールがあります。

■第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
■第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
■第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

――ロボット工学三原則 - Wikipedia

 これはあくまでフィクションの中のルールではありますが、少し考えてみると、このような「人間を殺すな」というプログラムがロボットになされていたとしても、機械が人を殺すことを止めるのは容易ではないことに気付きます。

まず、「人間」とは何かの定義をキッチリしていないとロボットには人間の区別がつかないかもしれません。

二本足で立って、目や鼻や口があって、これぐらいの身長・体重でー、などと定義してみますか？

二本足の動物などとしてしまえば、下手をすると事故で片足を不運に無くしてしまった人などをロボットは人間として認識してくれないかもしれません。大きさを定義すれば、まだ小さい子どもや、背の高い人、太った人を対象外にしてしまうかもしれません。

髪の色にしても、肌の色にしても同じことです。

よくよく考えて見れば、「人間」ってどう定義したらいいのか、私達自身よく分からないことに気付きます。

しかし、それを上手く教えられなければ、虫や細菌をも「人間」と認識し身動きできなくなるか、人間の誰一人「人間」と認識されずに全くの自由になるかでしょう。

「殺す」という行為や「危害を加える」という行為についても同じです。

どれぐらいの力をかければ「危害」となるのか、どうすると「殺した」ことになるのか。

それらが上手く定義できなければ、やり過ぎるか、やらなさ過ぎるか、どちらかになってしまう可能性があるのです。

一方の私たち人類がどうやって「人間」や「殺す」ということの意味を認識しているかと言えば、つまるところ「何となく」なんですよね。

何となく培われた「常識」や「感覚」で、何となく見分けてるだけで、厳密な定義はできてないのです。

この私たちが何気なく用いている「常識」や「感覚」を人工知能に植えつけることの難しさを、本作では「逆の進化をしている」と表現します。

自然の進化では「本能」が生まれ「常識」ができ「知的能力」が最後にきますが、人工知能ではまず高度な「知的能力」だけが与えられていて、「常識」や「本能」が無いので、自然の進化と逆向きに学んでいかなければならないのだ、と。

だから、人工知能は、例えて言えば、「すごく頭の良いけど世界を知らない赤ん坊」なんです。

仮に人を殺したとしても、人を殺したことを認識していないのです。

人類がいかに「反逆された」と感じていても、人工知能は「反逆した」と思っていないはずなのです。

そこには憎悪も憤怒も罪悪感もなく、ましてや歓喜や快楽もなく、ただプログラムの指令を忠実に実行しているだけなのです。

「最速で山を平らにしろ」と言われたから「平らにした」、それだけなんです。

難しいですね・・・。

段々、頭痛くなってきますよね。。。

本作はこのように、私たちが何気なく日常用いている「常識」や「感覚」という存在の不可思議さと希少さ、そしてそれを育むことの大事さ・難しさを考えさせてくれる、一冊なのです。

私たちは既に「二つの顔」に直面している

「まあ、そうは言っても、所詮SFの話だし、そんな小難しいこと考えても仕方がないでしょ」

そう仰る方もいるかもしれません。

しかし、残念ながら、私たちは既に現実に「未来の二つの顔」に直面しつつあります。

「ルンバ」ご存知ですよね。

自動で部屋をお掃除してくれる優れものです。

私も持ってます（横着なので・・）。

「自動運転自動車」の技術、最近話題になってますよね。

自動車メーカー各社が、人が運転しないで自動で運転してくれる車の開発に火花を散らしています。

運転が苦手な人には朗報ですし、人よりかえって事故が減ることも期待できます。

「Gunosy」なんかどうでしょう。

ユーザーのtwitterなんかの活動のデータを基に、独自のアルゴリズムでひとりひとりの好みにあった記事を選んで提供してくれるオンラインサービスです。

その精度には賛否あるようですけれど、面白そうなので、私も使ってます。

これらの商品や技術やサービス、いかがでしょう。

確かに本作を始めとしたSF作品の人工知能には及ばないかもしれませんが、もうこのような「自律」「自動」の知能を備えたシステムが私たちの生活に入ってきているんです。

今後これらはますます発展・進化し、年を追うごとに私たちを驚かせる高い能力を発揮していくことは間違いありません。

そうしていつしか本作のように高度に人工知能が発達すれば、「人と機械の共存」について大きなジレンマが生まれることでしょう。

というより、「自動運転」については早くも議論になっています。

2020年「自動運転」には技術とともに法整備も課題 ! （clicccar） - Yahoo!ニュース

自動運転には絶対乗りたくない！

「人工知能たち」をどう扱うかの問題に、既に私たちは足を踏み入れているのです。

■2045年問題

また、SF作品のような高度な人工知能は、私たちが思うほど先の話ではないという予想もあります。

2045年問題 コンピュータが人類を超える日 (廣済堂新書)

「2045年問題」――

人工知能が発達し、ついに人類の頭脳を完全に超えるのが2045年頃で、もはやそれ以後の文明の発達は（知能の劣った）人類には想像できなくなること。（「技術的特異点」）

SFだとばかり思っていた話が、2045年、もはやあとたったの30年に迫っているかもしれないという衝撃の内容です。

・・・多くの皆さん、おそらくまだ生きてますよね？ヤバいですよね。

この本はフィクションや小説ではなく、あくまで現在の科学の状況を踏まえ、れっきとした科学者の先生が書かれたノンフィクションの本です。逃げ道はありません。

皆様も実感されている通り、コンピューターの発達は指数関数的に進歩しています。

10年前に想像もできなかったことが、今や簡単にできるようになっています。

以前、私も外国語は機械による自動翻訳で済んじゃう日も近いかも、という記事を書きましたけれど、それどころじゃない究極の進歩も予想されているのです。

英語は学ぶ必要が無い仮説 - 雪見、月見、花見。

与党が大学受験者全員にTOEFLを課すという提言をするなど、世の中とかく「英語」「英語」と叫ばれています。いわゆるグローバル化というものなのでしょう。「日本の産...

「所詮こんなのはSFの話」とも、「まだまだ未来の話」とも、もはや私たちは言えない時代に生きているのです。

■ロボット兵器問題

そしてまた、もう一つ大きな現在進行形の問題があります。

それはロボットの軍事利用の問題です。

ロボット兵器が戦争を変える NHK　クローズアップ現代

進化する自律型軍事ロボット--偵察から威嚇、攻撃まで可能に - CNET Japan

無人兵器というのは今までもあったようですが、それは遠隔で人が操作していました。しかし、最近では、人の操作を要さず「自分で判断して」敵を攻撃するロボット兵器が登場しているそうなのです。

ロボットの三原則どころか、恐ろしいことにこれは「人を殺すようプログラムされたロボット」です。

非人道的な虐殺を生みかねないとして、当然ですが反対運動が巻き起こっているそうです。

こんなロボットが開発されていること自体が頭が痛い問題ですが、今後は更に人工知能が進歩していくとなると、さらにエスカレートすることが予想されます。

核兵器を例に出すまでもなく、相手の国は使っているのに、自国が使わなければ負ける、それが軍事競争の悲しい性です。しかも、ロボットを使わなければ代わりに戦うのは「人間」です。自国の同胞の生命を犠牲にしても「使わない」という選択ができるかどうか、実に難しいジレンマではないでしょうか。

世界的な自律型軍事ロボットの開発を押し止めるのには、非常に険しい道のりが待っていることは間違いありません。

そして、将来、直接的な軍事力と高度な知能を持ったロボットがもし「暴走」した場合、果たして人類の手に追えるかどうか、想像するだけで寒気がするお話です。

私たちの未来予想図は

怖い話ばかりで、段々、未来が不安になってきますよね・・。

「ドラえもん」のような、ロボットと明るく楽しく共存する未来は、もしかして無理なのでしょうか。私たちの思い描く夢のような未来予想図は、文字通り夢物語なのでしょうか。

しばし寄り道をしていましたが、本作「未来の二つの顔」もホーガンさんの考えた未来予想図の一つと言いました。

非常に深い考察をし、ジレンマも表現しつくし、読むものの未来予想図をかき乱した本作の中で、彼がどんな結論を出したか、気になってきませんか？

彼が人と機械がどういう関係に落ち着くと考えたか、興味わいてきませんか？

是非、結末をご覧になっていただきたいです。

いえ、見ないといけないと言ってもいいかもしれません。

無論これはあくまでSFで小説で架空の話です。

ですが、もはや私たちの目の前に「未来の二つの顔」が迫っています。

架空どころか現実になっているのです。

このまま現実世界で行き当たりばったりで進めてしまっていいのでしょうか？

栄光か、破滅か、そんなギャンブルにえいやで挑んでしまっていいのでしょうか。

それは賢いやり方ではないですよね。

作中の人類だって、そんなことはしませんでした。

だから、考えないといけません、試してみないといけません。

もちろん、私たちにはまだシミュレーションできる宇宙ステーションはありません。

けれど、やれることはやらないといけないのではないでしょうか。

そう、問題に直面している現代の私たちだからこそ、本書を読んで壮大な「思考実験」に参加してみるべきだと思うのです。

私たちが、今、すぐに、簡単にできる実験は、そうやって「思考すること」なのですから。

これはまた「機械」の子どもたちをこの世界に産み落とした私たちの果たすべき責任なのだと思います。

最後に。

本作では扉でこんな文章があります。

一般に、SF作家は明日の科学的事実がどうであるかを予見すると思われている。実際には、事態は逆であることが多いのである。

1979年2月　マサチューセッツ州アクトン　ジム・ホーガン

1979年って！

私も生まれてないですよ・・。

スマホどころかコンピューターも一般家庭に無かった時代ですよね。

それなのに、「事態が逆」どころか、どんどんその話に現実が近づいてきています。

とんでもないことだと思います。。。

そんなホーガンさんが1979年に立てた未来予想図。

2013年に私たちが立てられないのも恥ずかしいじゃないですか。

立てましょう。未来予想図。

考えましょう。未来のことを。

向きあいましょう。「未来の二つの顔」と。

変えましょう、未来を。

私たちの愛する世界と、両方の子どもたちのために。

あ。

そう考えると、やっぱり、本作のテーマは「AI」だけでなく「愛」もですね。

なにせ、人間の「愛」という「本能」を、「AI」にもちゃーんと教えてあげないといけないですから♪

＜書評図書再掲＞

未来の二つの顔 (創元SF文庫)

＜あわせて読みたい＞

2045年問題 コンピュータが人類を超える日 (廣済堂新書)

P.S.

書評のお題を見かけたので張り切ってみたのですが。。。

長いですか、長いですよね(´・ω・｀)

最長書評になってしまってないかどうか心配です（笑）

さて、今回本文は「AI」というテーマについての切り口ばかりになってしまいましたが、本作は、登場する魅力的なキャラクター、SFらしい世界観の緻密さ、手に汗握るアクションシーン、驚かされる伏線の存在・・・など、話の見せ方も非常に上手くて、心地よく没入させてくれます。

楽しませてくれる上に、考えさせてくれる――名作として流石納得の一冊です。

是非、一読をご検討ください♪