人工知能 人類最悪にして最後の発明 / ジェイムズ・バラット

人工知能といえば、一番身近なのは、アイフォンに搭載されているSiriではないだろうか。

残念ながら、私のスマホはアンドロイドなのでSiriはいないが、アンドロイドはグーグルの技術の上に成り立っているのだそうだ。
グーグルプレイというアプリをなんの気なしに消してしまったせいで、ひどい目にあったこともある。
あのアプリは消しちゃダメらしい。

0.jpg

ただし、本書で問題にしている人工知能(以下AI)は、Siriよりももっと高度なものを指す。それは人工汎用知能(AGI Artifical General Intelligence)のことだ。
AGIは、独自に進化して自らのプログラムを書き換え、わずか2日のうちに人間の知能の実に1000倍もの知能を獲得し、さらに進化を続けるといわれる。
その名は、”ビジーチャイルド”。子供のように進化していくからだろう。
しかもAGIの場合は限度というものがない。瞬く間に人工超知能(ASI )となる。

AIの開発に本格的に取り組んでいるのは、各国政府の国防機関や、グーグルのようなとてつもなく予算が潤沢な組織だ。北朝鮮、イランなどもまた然り…

AIの未来に関する議論には楽観論と悲観論の双方がある。
前者は、AIが人間並みの知能を有すれば、一人に一ロボットの時代が到来し、これまで人間がこなしていた様々な厄介な作業をロボットが肩代わりしてくれるようになるというものだ。それによって、人間は危険な労働から解放され、幸福な人生を送れるようになる。
後者は、AIは様々な問題を引き起こし、人類を苦しめることにあるだろうというものだ。

 

サブタイからも容易に推測されるように、本書はそんなAGIの未来に警鐘を鳴らす本である。
楽観論、悲観論ともにその前提は「AIは人類と共存する」ことだが、本書は、その二つの考えよりもさらに進んで、その前提の危うさを説く。

技術的に進化した存在が、より劣る存在と出会ったらどんなことが起きるのか。
それはこれまでの歴史が証明している。コロンブスとアステカ王国の人々、ピサロとインカ人、ヨーロッパ人とネイティブアメリカン…結末はわざわざいうまでもない。

人間が人間よりも知能の劣る裏庭のアリにコントロールされることがないように、人類の1000倍も賢いAIが、人類にコントロールされることはない。そもそもAIが人類に対してフレンドリーだとは限らないのだ。
しかも、AIはそもそもが「効率性」と「自己保存」を目的としてプログラミングされており、そして完全に合理的に振る舞う。

さらに、AIに人間らしさを組み込むのは、非常に困難な状況にあるらしい。とすれば、AIは人類を邪魔な存在として滅ぼしてしまうかもしれず、生かしておくにしても、人間が動物を家畜のように扱うように、”資源”として活用するのかもしれない。それは、まるで映画「ターミネーター」の世界だ。

AIは、「人類最後の発明」になるやもしれない。一旦AGIが生み出されてしまえば、後戻りはできないのだ。

ある種AIは、核兵器と同じだ。それでも各国の国防機関、グーグルなどの大企業は、どこかに先じられてなはらじと、我先に開発を推し進めている。そして、ウォール街のアルゴリズム取引の例をあげるまでもなく、AIの進化はお金を生む。なんといってもAIは、完全に合理的に振る舞うのだから。
AIの安全性についての議論は置き去りにされたまま、その研究は進められている。

著者のジェイムズ・バラットは、アメリカのドキュメンタリーもののテレビプロヂューサーであるが、2014年のタイム誌が選ぶ「AIによる人類滅亡を論じる重要な識者5人」に選ばれている。
ちなみに、その5人のなかには、かのスティーヴィン・ホーキング博士も含まれているという。

本書の内容は、SFでもなければ、「面白おかしい」ものではない。ここで述べられているのは、AI賛成派と反対派双方に取材しその声に耳を傾け、なおかつ論文や講演を読み込み、自らも熟考を重ねた上で、導き出された結論だ。

本書を読む限り、かなり絶望的な状況であることは間違いない感じである。
どうすればAIによる人類滅亡が防げるのか、本書にもその解決策は用意されていない。ある種の幸運に頼るほかはないとさえ著者は思ってもいる。
だが、わずかでもその危険性に警鐘を鳴らすことができれば、というのが本書の趣旨なのだろう。

 

 

 

 

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

CAPTCHA