人工知能(AI)が人間を超える日は来るのか?

2016年3月9日から15日までの間に韓国でプロ棋士とグーグルが開発したAI「AlphaGo(アルファ碁)が対戦、4勝1敗でアルファ碁が圧勝した。すでにチェスでは1996年に世界チャンピオンに勝利し、将棋は将棋ソフト「ボンクラーズ」が日本将棋連盟会長も務めた故米長邦雄永世棋聖が引退後の2012年を打ち負かしている。しかしチェスや将棋よりもはるかに手数の多い囲碁でAIがプロ棋士に勝つのはまだ先のことだといわれていた。しかし脳の構造を模倣したディープランニングの発展がAIの世界を根本的に変えた。

では、AIが人間を完全に超える時代はやってくるのか、そのときどのようなことが起こるのか。

人工知能が人間の能力を超えることで起こる出来事「シンギュラリティ(Singularity:技術的特異点)」についてデータ復元、デジタルフォレンジックのAOSグループが主催する「AOSリーガルテック2016」に招待されていたスタンフォード大学教授のポール・サファー氏に話を聞いた。

ポール教授はアルビン・トフラー氏やハーマン・カマー氏などと並び称されるフューチャリスト(未来学者)だ。一説には2025年までには必ずシンギュラリティが実現するといわれているが、本当にシンギュラリティは到来するのか。そのとき人類はどうなってしまうのか。

■機械が人間より賢くなる日が来るか?

――今、話題となっているシンギュラリティ(技術的特異点)とはどのようなものですか。

シンギュラリティという概念を最初に知ったのは1990年代初頭で、それ以降いろいろ考えてきました。人によって考え方はまちまちで注意深く取り扱う必要があると思います。この言葉が最初に使われたのはバーナー・ビンジーという科学小説家の本の中です。機械がどんどん賢くなっていることに気づき、このままいくと、機械が人間よりも賢くなる日がくるだろうと考え、大変だと思ったわけです。機械が人間より賢くなったらどのようになるか、彼はSF小説家として想像をめぐらしました。しかしSF小説家の彼でさえ、どのような世の中になるのか想像できないと考え、スティーヴン・ホーキングが使っていたシンギュラリティという言葉を借用しました。シンギュラリティというのはブラックホールの周りの地平線のようなものです。

――いつ頃、そうした状況がやってくるのでしょうか。

機械が人間よりも賢くなる日がくるだろうか。それはそれほど興味深いテーマではないと思っています。むしろ興味深いのはシンギュラリティという概念の登場で人々が「機械が人間よりも賢くなることがあるのだろうか。そのときどういう可能性があるのか」ということを人々が考えることが興味深いと思います。今まで人間は技術を使う前の段階ではその影響について考えてこなかった。これは希望にもつながると思います。

■人間よりも知能の劣るAIの方が興味深い

――AIが人間の知能を超えて、人間の社会に大きな影響を及ぼすといわれていますが、どんなことが起こるのでしょうか。

人間よりも知能の劣るAIの方が興味深いと思っています。人間ほど知能は発達していないが、人間のように自律的に行動のできる知能はもっている。そしてある程度自分で、決定を下すことができるものです。たとえばパイロットではなくロボットの操縦する飛行機にあなたは乗りますか。乗らないという人の方が多いと思いますが、実際にはすでに全自動で操縦ができるようになっています。ボーイング777やエアバス340は人間だけでは操縦できません。エールフランス447号機の事故(大西洋上に墜落した墜落事故)はロボットのせいでした。最高の知能をもったAIが引き起こす事件・事故はすでに現実の問題になっています。私たちの生活に出回り始めている初歩的なAIやロボットといったものと人間がしっかりとコミュニケーションをとれるようにすることが喫緊の課題なんだと思います。本当に近い将来、世界的な銀行など大企業が社内で使っているAIとコミュニケーションがとれずに倒産するようなことが起こりうると思います。今からそうした問題に取り組んでいれば、将来絶大な知能をもったAIが到来したときにも対応できる体制ができると思います。

――シンギュラリティが起こることで、これまでの仕事が半分以上はなくなってしまうという話もある。

スタンフォード大学のセンター・フォー・アドバンスド・スタデイズで仕事の未来に関する調査の共同責任者をしたことがあります。プロジェクトを始めた当初は、シンギュラリティによって仕事がなくなり、人間の未来に暗い影を投げかけるようなことはないと思っていましたが、もしかしたらそれは間違いではないかという不安も持っていました。しかし研究を終えた段階でそれが確信に変わりました。2025年の最大の経済問題は失業問題ではないと思います。むしろたくさんの新しい仕事ができるので、労働力が不足するのではないかと思います。この問題は長々と議論する必要はありません。1930年にジョン・メイナード・ケインズが書いた『わが孫たちの経済的な可能性について』を読めばわかります。

――すでにシリコンバレーでウーバーの普及によってタクシーの運転手が職を失うという事態も起こっているようですが。

シリコンバレーでウーバーやリフトとタクシーとの利権争い問題記事がでましたが、全くのデマです。コンサルタントなどのいうことはあまり信用しないでください。私は1984年からシリコンバレーでくらしていますが、32年間一度も流しのタクシーを見かけたことはありません。つまりタクシーは電話で前日から予約してないと来ないのです。Door to Doorの空港へのシャトルバスも予約が大変でした。現在は飲酒運転もなくなりつつあり、ウーバーとリフトの経済効果は絶大です。

――シンギュラリティが到来するとどのような時代になるのでしょうか。

それは誰にもわかりません。それは予測ができないのではなく、みんなこれからの未来を一緒に発明するプロセスにあるからです。視点を変えて、未来がどうなるかではなく、どのような大きなショックがおとずれるか、という点から考えてみましょう。それは到来する速さによって左右される問題だと思います。シンギュラリティが明日到来したら大きなショックでしよう。しかしみんなで議論したのちだったら、20年間シンギュラリティが到来しなかったらどうか。それまでずっと議論していれば到来した暁にはそれほどショックはないと思います。

■文化を大きく変える原動力は神話です

――しっかりと事前に議論することが重要なんですね。

シンギュラリティを学んでわかった教訓は、技術というのは導入する前に、その影響を考えることが重要だということです。私はフューチャリストとして未来を予測することが仕事で、アルビン・トフラーも親しい友人でした。ただフューチャリストの父と呼ばれる人がいまして、それがアーマン・カーンです。ランドコーポレーションに所属していました。実は米国が広島に原爆を落としたとき、未来にどういう影響を及ぼすか当時は誰も考えていなかったようです。未来を考える一人として、そうした問いかけをしなかったことによって、原爆投下は数百年来の大きな罪となってしまいました。ただシンギュラリティを考えた場合にAIは原爆を爆竹ぐらいにするくらいの大きな意味合いをもっています。ですから今、こういう議論ができていることは幸いです。AIが悪用されたときの影響は絶大です。シンギュラリティで大切なことは10数年後の来るかもしれないシンギュラリティがどういうものかではなく、それを今、しっかりと議論することなのです。同様に気候変動問題に対する対応も深い討論が必要です。技術で対応するのか、われわれの生活文化で対応するのか。

――シンギュラリティの問題は危機管理の考え方に似ているようにも思いますが。

未来を見る場合、理想郷が到来すると考えるか、地獄の縮図になると考えるのか、どちらかの極端に走りがちですが、その間の状態についてはみなさんあまり考えない。いいもの、悪いものが混在する世界を考える。一般に未来は現在の延長線上にあり、シンギュラリティの議論でも中庸をわきまえる必要があるのです。賢い機械が人の仕事を奪うような未来ではなく、ある程度賢いけれど、結局はしどろもどろしている機械たちが、予測不能の中でいいこともやれば、悪いこともある。いいと思ってやったことが裏目にでることもある。

――ポール教授はなぜ未来学を勉強するようになったのでしょうか。

ハーバードの大学1年生のときに、トニー・オッテンジャー教授の授業を受けました。「コンピュータと社会」と題する授業です。彼とハービー・ブルックス教授に感化されました。文化的なプロセスの技術に自分は一番関心があると気づきました。私のすべての仕事はひとつの問い、仮定にベースをおいています。次のようなことに気づかされました。いままで人間は先に技術を発明し、その技術によって人間は自分を作り直している。個人として、コミュニティーとして、社会としても自ら作り直している。人間が手段を創るのと同じぐらい、その手段が人間を作り直している。たとえば、ペンが発明されてそれを使うことで、指にはペンダコができる。技術と人間の間のインターフェース、人が技術によって変わっていくことに興味があったのです。

――シンギュラリティの到来を日本がチャンスに変えるためにはどうすればいいのでしょうか。

シンギュラリティはシステムを変革する議論のいいきっかけになるかもしれません。シリコンバレーが成功し続けているのは、実はあまり知られていない理由があるのです。ある意味幸運でした。適切な神話を作り出すことができたからです。全米に目を向けると、米国は危機的な状況にあります。それは日本と大差はありません。以前、われわれの国力と経済力の原動力となっていた神話が足かせになりつつあります。米国は個人の自立という神話がありますが、いま米国には相互依存という神話を必要しています。日本は長い歴史を持った文明です。米国はできたばかりです。日本は米国よりも多くの、力の源として利用できる神話があるのです。シンギュラリティがそのきっかけになるかもしれませんが、文化を大きく変える原動力となるのは、そうした神話なのです。日本人はそうした原点をしっかりと見つけていくことが今後の大きな課題になるのではないでしょうか。