キャリア Vol.475

人工知能は人間の「新たな奴隷」になるか、人がAIの奴隷になるのか?伊藤穣一氏と専門家が未来検討

「人工知能(AI)が世の中を支配する」。そんなSF映画のような話が、少しずつ現実味を帯びてきた昨今。最先端の研究では“人間の脳に匹敵する人工知能の実現”を目指した取り組みが始まっている。

2016年7月6日に開催された『THE NEW CONTEXT CONFERENCE 2016 TOKYO』の第4セッション・『最前線』では、そんな最先端技術の「ハードウエア」と「意識」というテーマでパネルディスカッションが行われた。

『THE NEW CONTEXT CONFERENCE 2016 TOKYO』第4セッション・『最前線』

『THE NEW CONTEXT CONFERENCE 2016 TOKYO』第4セッション・『最前線』

デジタルガレージの共同創業者でMITメディアラボ所長を務める伊藤穰⼀氏がホストとなり、次世代スーパーコンピュータの開発者・齊藤元章氏、脳科学の現実世界への応用技術開発に従事する金井良太氏が、人工知能の未来を語り合った。

AI研究の最前線では、人工知能に人間や動物の脳のような“意識”をもたらし、人間の指示・プログラムがなくても“自発的に進化を続けるAI”の開発が注目されている。しかし人間の想像を超え、コントロールができない範疇にまでAIが進化してしまうとしたら、我々の世界はどう変わってしまうのだろうか。

今はまだ、人間が支配する道具に過ぎないコンピュータが、逆に私たちの生活に影響を与える、新たな脅威となる可能性も出てくるのだろうか。AI研究の最前線に立つ専門家たちの意見から推測してみたい。

MITメディアラボ所長 伊藤穰一氏デジタルガレージ共同創業者で取締役でもあり、そのほか、The New York TimesやCreative Commonsなど、さまざまな団体・組織のボードメンバーも務める。2008年米国Business Week誌にて「ネット上で最も影響力のある世界の25人」、2011年米国Foreign Policy誌にて「世界の思想家100人」、2011年、2012年共に日経ビジネス誌にて「次代を創る100人」に選出。愛称はJoi

株式会社アラヤ・ブレイン・イメージング代表取締役 金井良太氏神経科学と情報科学の融合により新しいニューロテクノロジーの時代の創成を目指す、株式会社アラヤ・ブレイン・イメージング代表取締役。統合情報理論をモチーフにした人工意識の構築、自由エネルギー原理に基づくエージェント構築、脳ビッグデータからのあらゆる予測に取り組んでいる

PEZY Computing代表取締役社長 齊藤元章氏スーパーコンピュータ技術を開発する株式会社PEZY Computing代表取締役社長、株式会社ExaScaler創業者・会長、UltraMemory株式会社創業者・会長を務める。医師(放射線科)・医学博士。1997年に米国シリコンバレーに医療系システムおよび次世代診断装置開発法人を創業

現時点では「自ら生き残ろうとするAI」の研究が行われている

伊藤 細かい定義は抜きにして、人間の脳に近い、またはそれを超える処理能力のある人工知能は、今後何年くらいで出来るのでしょうか?コンピュータを設計できるコンピュータ、なんていうのも出てくると思うのですが。

齊藤 あくまで私の考えですが、今後10~15年くらいのうちには、100%できると思いますね。

金井 ハードウエアのスペックが指数関数的に発展していくというより、ソフトウエアの問題だと思います。システム的に違う何かを、コンピュータ自身が1.1倍ずつ開発していく、そしてそれを継続的に生み出せるようになるか、というと50年とかそのくらいはかかるのではないかと。

伊藤 金井さんは、人工知能に、生命のような“意識”をもたらす研究をしていますが、なぜAIに意識が必要だとお考えですか?人間であれば、生命として「朝起きて、行動する」のには理由があります。眠い、お腹がすいた、という肉体的な欲もありますから。でも肉体を持たないAIに、欲は必要ないですよね。欲がないのに意識は必要なのでしょうか?

金井 もともと、生命は「自分を維持する」というホメオスタシスみたいなものがないと、生き残れません。ホメオスタシスというのは、環境が変化した時に自分の行動をアジャストするということで、進化論に近いんです。人や動物の場合は、そういう傾向にあったものが強化されて、生き残ってきました。

人工的にそれを作るためには、AIに「残ることを期待させる」意識を持たせることで、進化させていく必要があるんです。

伊藤 人工知能の頭を良くするために、『競争させているうちに、生き残りたくなっちゃう』という意識を人工的に作るということですね。まさに進化論と同じ原理を人工的に発生させようという。

“バイオ(人間の脳)とAIのハイブリット化”には、いまだ及んでいない

伊藤 人工知能に意識を持たせる、といいますが、それならもともと意識を持っている人間の脳を拡張して、完全にバイオとハイブリットにしないのですか?

齊藤 きっと今後はそういう風な方向に向かうとは思います。やがて我々は自分の脳が持っているコネクトーム(=神経回路の地図のこと)を開放していくと思うんです。

全人類73億人分のインターコネクトーム(=神経細胞同士のつながりの相互接続)が必要になっていくとすれば、(バイオとのハイブリット化研究を進める方法として)次世代のAIやスパコンが必要になってきます。意識が生じるかは別として、次世代のスパコンないし、人間のコネクトームと同様のハードウエアを作れば、脳科学の解明を始めとしたさまざまな技術にもつながるのでしょうね。

伊藤 そもそも、脳は一つの神経に、まだ解明されていないさまざまな要素が存在する。シナプス(シグナル伝達などの神経活動に関わる接合部位)でのやりとりが起きる前に、たんぱく質の生成が起きたりと、コネクトームは複雑でいろんな要素が混ざっています。脳の機能は、我々が思ってるよりもはるかに複雑だという可能性があるから、研究は思ったより時間がかかるかもしれませんね。

斉藤 そうですね。クリエイティビティなものであるとか、概念みたいなものが生み出せるようにならないとなかなか……。早く実例を出したいですね。

AIが戦争を起こし、悟りをひらく!?人智を超えた「AIが作る世界」とは?

伊藤 私は、1つの人工知能で、絶対的な神さまのようなシステムが出来るとは思わないんです。きっと、複数のAI同士が戦ったり、交渉し合ったりして発展していくことで、人間社会とあまり変わらなくなるのではないかと。

そうすると、次にはAI同士で戦争が起きたり、政治が発生したりする世界になるのではないでしょうか。今、人間は平気でコンピュータを奴隷にしているけど、それらが自分より頭が良くなってしまって、その上意識も持っていたらどうなってしまうのでしょうか。

金井 クリティカルなAIはきっと、意図を持つようになるでしょう。意図を持ち始めると、我々ではコントロールできないところが出てきます。そのため、AGI(人工汎用知能)を作る時に「意識」を必要とせず、人間が指示したプログラムのままで人工知能が動き続ける、という可能性も十分にあります。

伊藤 人間にとって良いシステム、となるようにある程度制御したりコントロールする必要があるということですね。AIに意識を持たせたら危ないから、持たせないようにするというか。

でも、結局コントロールするのは人間になってしまう、というのが問題でもありますよね。AIに指示して戦争をさせる、といった悪い人間だっていますから。逆に、意識を持ったAIの方が、良い倫理を持つのではないかという説もあります。

齊藤 何を持って良いとするか、というのはありますけど、人間の究極である、宇宙空間全部の事実を理解する「全知全能」を求めていくのだとすれば、やはりAIの技術がないとムリなのではないでしょうか。今の人間の進化のスピードだとすごく時間がかかってしまうので、AIの進化は良いことだと思いますけどね。

伊藤 実は、前日のパネルディスカッションで(当イベントは2日間開催で、前日は仮想通貨の根幹である“ブロックチェーン”をテーマに議論が行われていた)、ビットコインの話で出てきたんです。ネット上では、金融系の分散型人工知能がビットコインを使って人を動かす可能性があるという話でした。お金、というのは人を動かすための権力を持ってしまうものですよね。ビットコインを司る分散型AIの登場は、人への権力を持った人工知能の出現ということになります。

分散型のシステムで、いろんな仮説を立証していくことで、AIの進化論が起こりますが、一方で進化が止められなくなってしまうこともある。そうなると、人間に優しくする一部のAIシステムもあれば、人間を奴隷のように扱うシステムも出てくるでしょう。良いところも悪いところもある。だけど、人間にはもはや何が起きてるのか理解できない。そんな世界が現実的になってくるのではないでしょうか。

金井 むしろ、「こんなに悪いことをしなくても、いいじゃん」と悟ってしまうAIの意識も出てくるかもしれません。そうしたAIの世界が来たときに、我々が何をしたいと思うべきか、というのが変わってないと人間は適応できないんじゃないですかね。

伊藤 その時には我々が遺伝子工学によって脳をいじられてしまっていて、AIにむりやり悟りを開かせられるかもしれませんね(笑)

議論は時間の関係上、途中で終わってしまったが、伊藤氏は「AIの進化はいつ起きるか分からないことです。淡々と進む部分もあれば、急にガラッと変わることもある分野でもあるので、日々チェックをしておくべきですね」と締めくくった。

今回のディスカッションの内容は、あくまで専門家たちの推測に過ぎないが、人工的に生み出したAIが今後どのように我々と共生していくのか、引き続き注目していきたい。

取材・文/大室倫子 撮影/伊藤健吾(ともに編集部)

この記事が気に入ったらいいね!しよう

エンジニアtypeの最新情報をお届けします

RELATED POSTS関連記事

JOB BOARD編集部おすすめ求人

この記事に関連する求人・キャリア特集


記事検索

サイトマップ



採用強者3社も獲得に苦戦!?人事が明かす「今すぐ欲しい」エン...

SIerって本当にヤバいの? ひろゆきが語る、業界ごと沈まな...

「今なら会社に対してマウントが取れる」Google・Yaho...

英文メールでよく見る「略語」の意味は? 海外エンジニアに聞い...

フリーランスエンジニアに聞く、最速で「時給5000円以上」人...

TAGS

「type転職エージェント」無料転職サポートのご案内