AIが変えるヒトの未来　〜AI Salon 第1回〜
キーノーツスピーカー　脳科学者 茂木健一郎

主催：Speedy, Inc.
構成：井尾　淳子
撮影：越間 有紀子
日程：2019年5月28日
場所：六本木ヒルズ

【AI Salonとは】
ブランドコンサルティングカンパニーであるスピーディ社がお届けする会員限定サロンです。企業がＡＩを「明日から使えるビジネスツール」として活用するには、どうすればいいか？ 毎月一緒に考えていきます。

第１回ゲスト／茂木健一郎 氏
1962年東京生まれ。脳科学者。ソニーコンピュータサイエンス研究所シニアリサーチャー。東京大学理学部、法学部を卒業後、東京大学大学院理学系研究科物理学専攻課程を修了、理学博士。理化学研究所、ケンブリッジ大学を経て現職。「クオリア(意識のなかで立ち上がる、数量化できない微妙な質感)」をキーワードとして、脳と心の関係を探求し続けている。『脳と仮想』(2004年、新潮社)で小林秀雄賞を、『今、ここからすべての場所へ』(2009年、筑摩書房)で桑原武夫学芸賞を受賞。近著に『なぜ日本の当たり前に世界は熱狂するのか 』(角川新書)がある。

オープン AI「GPT-2」の危険性

本日は、主催のスピーディ社 会長でいらっしゃる(株)ウォーターデザイン代表の坂井直樹さんに「来い」と呼ばれて参りました（笑）　今日はよろしくお願いいたします。

皆さんは、AI（人工知能）のビジネス応用に関心をもって、今日お集まり下さったと思います。ただ、この分野については、皆さんとどうしても共有しておきたい認識があるんですね。それは、「あっという間に陳腐化する」ということ。イノベーションの在り方が、今までとは全く異なっている。そのことの認識確保がないと、ビジネスでAIを使うといっても、最良のものが使えない。今まで日本型のR&D（研究開発）というと、有名大学とか、国の大きなプロジェクトとか、そういうもののほうがありがたみがある気にさせられますが、今はそういう時代ではありません。

「Lyrebird（ライアーバード）」という、たった３人のカナダ人スタートアップ企業が開発したテクノロジーがあります。YouTubeで検索するとその動画が出てくるので、ぜひ検索してみてください。このライアーバードの語源は、ニュージーランドに生息する、ありとあらゆる音を真似する鳥のこと。鳥だけではなく、カメラのシャッター音や電気のこぎり音なども真似るこの鳥の生態にインスパイアされて生まれたのが、AIによる音声合成システムです。人の声を学習して、デジタル音声を生成するサービス。つまり、声のデータさえあれば、その人が話してないことも、まるで本人が話しているかのような音声で、ありとあらゆるテキストを話すことができる。例えばトランプ大統領が「北朝鮮を攻撃するぞ」というテキストも、話すことができちゃうんですよ。

一方、オープンAIといって、イーロン・マスクも関わっているオープンイノベーションのAIのプラットフォーム「GPT-2」。これはオープンAIですから、当然、「成果の全てをオープンにする」ということが前提でした。ところがこの「GPT-2」というAIが危険ということになって、リリースがストップになった。例えばイギリスのEU(欧州連合) 離脱問題について、序文を書いたとします。するとこのAIは、その後のニュースを全部、もっともらしく自動生成しちゃうんです。ジョージ・オーウェルの『1984』という小説も、序文を書くと、その後のもっともらしい小説を書いてしまう。
このことですぐに思い付くのは、フェイクニュースですよね。フェイクニュースというと、前回のアメリカ大統領選で、ケンブリッジ・アナリティカという政治コンサルティング会社のスキャンダルが問題になったのは、記憶に新しいところです。Facebookでユーザーの属性を調べて個人情報の不正取得をして、一番効果的にトランプ支持になるようなニュースを流していたんですね。これだって先程の「GPT-2」を使えば、そんなフェイクニュースも簡単に作ることができる。1万人の人に向けて、1万通りのテーラーメイドなフェイクニュースを作ることができてしまうんです。その人のジェンダー、年齢、それまでのその人のアクセス履歴など、ありとあらゆるものでベイズ推定をして、「こういうニュースをこういう層の人たちに流せば、この人の態度が変化するんじゃないか」ということを、流すことも可能になってしまいます。
僕自身も、日ごろ大量の文章を書くのですが、さすがに1万人に1万通りの文章を送るのなんて嫌ですよ。そもそも、文章の内容までテーラーメイドするなんて、人間には絶対にできないじゃないですか。ところがAIっていうのは暇なんです。AIたちはいくら働かせても怒らない。

AI特有の「アナーキーさ」を理解する

話を戻すと、前述のオープンAI「GPT-2」がなぜ危険かというと、質より量の危険です。私の友人の評論家・勝間和代さんは、いつも素晴らしい著書をお書きになるんですけども、Amazonのレビューでは、アンチの感想というのもあるわけです。勝間さん。かわいそうにね。でも、今までは人間がレビューを書いていたから、まだ少数で済んでいたものの、「GPT-2」のような自然言語処理のAIが出てくると、どうなるか。ある朝、勝間和代さんが新刊のAmazonのレビューを見たら、「星一つ」が1万件、わーっと並ぶような恐ろしいことが起こりうる。AIというのは、ネガティブレビューもポジティブレビューも全て、大量に生成できるからです。
これ、大変なことじゃないですか。一体、どうなると思います？　われわれは今までのところ、ネット上で目にするものは、「人間が生成したテキストだ」ということを前提に生きています。しかし今後、人間の書く文章1に対して、AIが書く文章が1万、「１：10,000」というような、圧倒的な世界が展開される可能性がある。そこで、オープンAIは危険だということで、公開停止になったわけです。

このAIコミュニティーのアナーキーな感じをまずは理解しないことには、皆さんのビジネスユースにも見間違えが起き、最良のものに届かない可能性があります。この感じ、分かります？
「サトシ・ナカモト」といって、ビットコインの原理を作ったことで知られる人物名が有名ですが、じつはその人物、本名なのか、そもそも実在の人物なのかを含め、正体不明なんですね。アメリカには、将来医療が発達したら、亡くなった人を治療して生き返らせることを前提に凍結保存している所があります。一つの説としては、そこに保存されている億万長者が、「サトシ・ナカモト」本人からビットコインを送金されているといううわさがあるんですよ。また別の説では、凍結保存されている億万長者こそが、「サトシ・ナカモト」なんじゃないかとも言われているんですけど。

まあとにかく、なんだかよく分かんないでしょ？（笑）　だけど、いいですか。大事なことは、ビットコインを記述した論文は、査読論文でも何でもない。しかもどこの誰だか分からないんですよ。でも、ビットコインを記述するブロックチェーンの論文が出た2、3カ月後に、その「サトシ・ナカモト」が実際にブロックチェーンを実装して、世の中にビットコインってものが出てきた。このアナーキーな感覚をつかまない限り、今のAIのリサーチの雰囲気は、絶対に分からないんですよ。
なぜこれを強調するかというと、日本はそういうことが分かっていない国だから。「破壊的イノベーション」という概念が、これほど社会の中に浸透していない国も珍しい。要するに、感覚的に分かっていないんです。僕は日本でAIを考えるときに、それが一番問題だと思う。これまでに「第5世代コンピューター」とか、「情報大航海時代」とか、経産省の官僚は一生懸命、大きな国費を注ぎ込んでいろいろやってきた。けれどそういう優等生タイプのイノベーションでは、全く太刀打ちできないのがAIなんです。今日はその辺りを、みなさんと共有したいと思います。

AI応用のカギを握る「評価関数」

話を続けますと、AIで最も大事なのは「評価関数」というもの。これが大変、重要な意味を持ってきます。評価関数というのは、「お前の計算は、こういう理由でいいよ／悪いよ」という点数を付けて、フィードバックしてあげること。囲碁や将棋は、「勝つことがいいこと」ですから、評価関数がはっきりしている。人工知能開発の天才デミオ・ハサビスが率いるDeepMind社が開発した将棋・チェスAIの「AlphaZero」が最強というニュースを受けて、これもまた友人の堀江貴文が、「寿司職人が何年も修行するなんてバカだ」と発言して炎上しましたよね。ところがAIの世界では、それが現実になってしまっている。ハサビス氏の最新トークによると、将棋、チェスまで自己学習できるAIである「AlphaZero」には、その評価関数で、「お前のこの手はいい／悪い」とフィードバックしてやると、AIはヒマだから、1秒間に何十局、何百局って打っちゃう。さすがに羽生（善治）さんだって、一日中将棋をやっていたら飽きるから、「ちょっとご飯でも食べに行こうか」となりますが、AIは勝手にやり続けて、数時間で世界最強レベルまでなってしまう。
つまりCPUが速くなったので、加藤一二三さんが長年かけて築き上げた将棋の腕やセンスというものを、Alはいとも簡単に習得してしまうわけです。ハサビス自身はチェスの名手ですが、おそらくエンジニアは将棋に興味も関心も愛もない。だからルールしか教えていないんですよ。そういう人たちが作ったAIが、たった数時間で人間を凌駕するレベルになってしまう。そういうことで実現するのが、評価関数です。評価関数は何かというと、「評価の基準を人間が定めなければ、AIは最適化できない」ということです。

で、皆さん。AIの研究をするにせよ、応用を考えるにせよ、われわれはこの評価関数のことを徹底的に考えないと、AIを使いこなすことはできません。将棋や囲碁であれば、評価関数ははっきりしていると申し上げました。しかし、自動運転はどうでしょう。これは非常に難しい「パンドラの箱」です。仮に５人の人がいて、5人を救うために車を右にハンドルに切ると、1人の人が犠牲になるとする。でも、5人を救うために1人を犠牲にするのは果たしていいのか悪いのか。これを「トロリー問題」といいます。
つまりこの5人の年齢、性別、この中に家族や知り合いはいるか。イケメンなのか、美人なのか、同じ人種なのか、違う人種なのか。そういうあらゆるパラメーターを変えていったときに人はどう振る舞うのかを、MITメディアラボ（米国マサチューセッツ工科大学 建築・計画スクール内に設置された研究所）が、オンラインの実験でやっています。
でも自動運転のアルゴリズムについては、われわれが評価関数で定めなくてはいけないですよね。運転手の安全を優先するのか、運転手も含めて、もっともけが人や犠牲者が少なくなるようにするのかなど、どんな条件を優先するか。これはもう、パンドラの箱でしょう？　どんな評価関数を定めたとしても、その自動車会社は、評価関数の前提が明らかになった瞬間に炎上しますよね。そもそも人間というものは、評価関数を明らかにしないことによって、今までバランスを保って生きてきたわけですから。
先ほどご紹介した勝間和代さんと、あるセッションをしたときのことです。「茂木さん、私ね。パートナーの10カ条件があるの。それは何かというと、私より身長が高いこと、私より年収が高いこと、それから……」といろいろ挙げたのち、「で、今のパートナーはその条件を全部満たしているの」って仰ったんです。勝間和代さんの場合、当時はチェックリストがあったそうなんですけど、皆さんはパートナー選びなんか、結構いいかげんでしょ（笑）　評価関数なんて概念はないし、あったとしても。それを明らかにして「だから好きなの」って言われたら腹立ちますよね（笑）　ということは、人間は、根本的な部分における評価関数は、よく分からないからこそロマンを感じるし、社会もスムーズに流れてきたんです。ところがAIというのは、「評価関数を明示的に定めないと先に進まない問題」がある。これをどうするかが、今極めて難しい問題になっています。

人間の曖昧さに、
AIの入る余地がある

AI応用の大きな可能性の一つとして、大学入試の面接があると思います。日本の大学入試は、もう変わらなくてはいけない。これまでは、点数の高い順に合格するので、偏差値が決め手になっていたけれども、これからは多様性が大事です。市川海老蔵さんが僕に、「茂木さん、僕は教科書を開けて勉強したことなんか、ほとんどないんです」と言うんですけども、歌舞伎という古典芸能の第一人者としてずっと活動している海老蔵さんは、ハーバード大学の入試は合格する可能性が高いわけです。
全米中の母親が、わが子をハーバードに入れたいので、受験の基準を知りたがっていますが、ハーバードのアドミッションオフィスの評価関数は、誰にもわからないよう、ベールに包まれているんです。極端なことを言うと、不正入試もあり得ない。唯一わかっているのは、「大事なのは面接」ということだけ。ハーバード大の面接は、卒業生が行うので、例えば東京に住む志願者には、東京にいるハーバードの卒業生が行います。しかも面接時間もはっきりとは決まっておらず、3時間で終わる場合もあれば、数日間にわたる場合もある。で、Skypeでやる場合もある。日本の大学入試の、15分5人の審査員行う標準化された世界とは真逆のやり方をしているのがハーバードなんですけども、僕は日本の大学入試もその方向に行く必要があると思っています。もっと広く言うと、「人を選ぶ」ということです。人を選ぶというときに、どういう評価関数で選ぶのか。日本人には苦手分野なので、ここにAIが入る余地があると思うんです。
あるベンチャーキャピタル（ハイリターンを狙った投資を行う投資ファンド）の人に聞くと、「500人に1人しか投資はしない」という。じゃあその評価関数は何かというと、その人自身もわからないと言うんですね。それはやっぱり、人間の持っている曖昧な、多様な価値観ですよね。だからそこをある程度AIでサポートしてあげることは、非常に大きなビジネスチャンスになっていくと思うんです。とくに日本の場合、AO入試は「学力ない受験生の裏口入学だ」なんていう悪評を立てられてきたわけですけども、非典型的な人間の個性をどうすくい上げていくかという問題を、AIで評価関数を定めることで解決の糸口が見えてくるのではないでしょうか。

自動運転については、「評価関数を明らかにしない」というコンセンサスができてくると予想しています。
この「情報を明らかにしない」というのは、先程のハーバード大の入試の基準のように、医学の遺伝子研究にも同様のことがあります。遺伝子検査や解析で知られる株式会社ジーンクエストは、単一遺伝子疾病については教えないそうなんですね。つまり「ある遺伝子に特徴があると、病気になる確率が高い」というタイプの遺伝子疾患については、顧客に伝えないという。一方、顧客に伝える情報は何かというと、生活習慣を改善すれば病気が避けられたり、改善できたりする可能性がある、多重遺伝子が関わっている曖昧な領域です。本来、「この遺伝子があると必ず病気になる」ということを見つけることができたら、情報の質は高い。けれど、それを本人に伝えるのはいかがなものか？というわけです。それを伝えず、曖昧なところだけを伝える。これ、なんだか面白い話ですよね。
これからの世界を見るときの一つの大きな描像というのは、バックグラウンドでは極めて精緻なAIの評価関数システムが動いているけれども、でも全ては伝えない、という部分。ただ、エンジニアだけは知っている、知らないと困るので。と、いうような時代になるんじゃないかなと思うんですよね。

AI時代に求められる
リーダーは、「ディスラプター」

でね、皆さん。AIの正式名称は「Artificial Intelligence」ですが、そもそもインテリジェンスとは、人間の脳においてはほぼ、「集中力」を指すと理解されているんです。1904年、チャールズ・スピアマンというイギリスの心理学者が、「g因子」「gファクター」という因子分析の論文を発表しました。いわゆる、教科の成績が平均していいというような、地頭の良さを説明するために、「general」の「g」という因子分析で、「gファクター」があるということを示した。ここから一般的な知性の高さというものがいわれるようになってきて、そこからIQも出てきたわけです。
現代の脳科学のイメージングで分かってきたことは、この「gファクター」と相関があるのが、前頭葉のリソースマネジメントの回路、とでもいいましょうか。今、目の前にあるタスクのために、脳の回路をどのぐらい総動員できるかが「gファクター」と関係することが分かってきました。つまり、いわゆるIQが高い人や地頭がいい人は、イコール「gファクターが高い人」といわれています。
でも、ここからがまた面白いところで、じゃあ「gファクターが高い人」が必ずしも社会的に成功するのかというと、必ずしもそうとは限らないという一般則があります。
例えば、チェスの世界で史上最高の頭脳を持っていた人がいるんですね。ところが彼は、一度も世界チャンピオンになっていない。けれど誰がどう見ても、番すごいのは彼だった。でもなぜ世界チャンピオンになってないのかというと、なんだかもう頭が良過ぎて、チェスだけに集中できず、いろんなことをやってしまうから。オックスフォードに行って、数学の学位を取得したりしてね。チェスだけやっていればいいものを、いろんなことをやっちゃう。つまり知性というものには、そういう側面があるんですね。
これは、ものすごく面白い問題なんです。つまり、さっきからずっとお話している評価関数につながるんですけども。「将棋やチェスで勝てばいい」というのは、一つの評価関数ですよね。で、その評価関数は、今やAIがものすごく強くなって、もう誰も勝てない。そうすると、評価関数からはみ出すところが、人間らしいという言い方もできるわけです。チェスの世界チャンピオンみたいに、チェスだけに専念してればいいものを、数学をやったり、いろんな本を書いたり、そういう困った人ですね（笑）
日本で言うと、養老孟司さんみたいな方。あの人も解剖学者で、すごい昆虫採集家で、脳のこともやって、執筆活動もされていますよね。トランプ大統領も、ちょっとなんか変ですよね。賢い人なんでしょうけども、なんだか「むちゃくちゃ感」がある。イギリスのテリーザ・メイ首相の辞任後、次期首相といわれるボリス・ジョンソンという人も、ものすごい賢い人ですが、何を言っているか、よく分からないわけですね（笑）
古代ギリシャのソクラテスもそうだったと思うんですけど、つまり知能には「賢過ぎる人は不適応になる」というパラドックスがある。そのことをよく考えていくと、AI時代に生きる人間が何やるべきか、少しずつ見えてくる気がするんですね。

だから、今、ディスラプター（デジタル時代の創造的破壊者）がリーダーになるケースが多いです。つつがなく「小さく前にならえ」でやっていく人よりも、むちゃくちゃなんだけど、事態が動きそうになるかもしれない人。そういう人がリーダーになる時代とは何だろうと考えると、バックグラウンドとしてインフラが整ってきたと言えますよね。インターネットがあるし、飛行機や電車の予約システムもちゃんとしている。そういう意味で、社会のインフラが整っているから、リーダーがむちゃくちゃなことを言ったとしても、比較的社会は安泰している、というような。われわれは「ローカルミニマム」と言いますが、極小最適を抜け出すためにディスラプトして、ばーんと物事を動かしてしまうリーダーが求められる時代なんじゃないか。これは、皆さんのような経営者の方についてもそうですよ。やっぱりリーダーはある程度ディスラプティブなほうが、今の時代はいいんじゃないかという予想も立つ。
とにかくAIの本質には「評価関数」があって、今その最適化が、さまざまな形で進んでいるということは、そろそろ共有できたと思うんですけども。そして知性というのは、必ずしも適応を意味するわけじゃない。知性が高いということは、ひょっとしたら危険なこと。だから昔から、天才はラジカルなものと紙一重と言われますよね。

テクノロジーではなく、
日本の文化、精神で対抗する

そして今後、日本がどういうAI戦略を取っていくべきかについて、お話したいと思います。やっぱりここは日本で、六本木なので、皆さんで考えたいんですけども、正直難しいと思うんですよ。世界のベスト・アンド・ブライテスト（聡明）なAI研究者やセンターと対抗できる形で日本に呼び起こすのは、すぐには不可能です。例えば核兵器は、ウランを濃縮するときに遠心分離機を使うので、「核兵器を作ってるな」と分かるんですよね。ところがAIの研究は、どこで誰が何をやっているのか全く分からない。そしてAIのもう一つのポイントは、最も優れた研究成果が、あっという間に世界中に広まってしまう。
AIは今、軍拡競争みたいなことになっているわけです。最も激しく軍拡競争が行われているのは、ファイナンシャルマーケットですよね。株式投資でも外国為替でも、最も優れた時系列データの解析と予測モデルを立てて、わずか0.1パーセントでも上回ったら莫大な利益上げられるわけですから、ここでのAI開発競争は、すさまじいことになっていることは容易に理解できます。軍拡競争、アームズレースになったとき、ほとんど日本人が入る余地はないというのが、僕の認識です。アメリカはもちろんですけど、中国もそうでしょ。中国がすさまじいことになっているのは、皆さんご存じですよね。世界の最も最先端のAI技術は、もう想像ができないような形で進んでいます。
例えば「クリスパー・キャス9」といって、遺伝子編集をする技術とAIを結び付けて新しい生物を作っちゃうとか。そういう分野の今後の研究動向は全く予想がつかない。だから僕がおすすめしているのは、少なくとも最新のAI情報は、英語で取りにいくことをリコメンドしています。

話を戻しますと、じゃあ日本には希望がないのかというと、そんなことはなく。GAFA （Google、Amazon.com、Facebook、Apple Inc. の4つの主要IT企業）のようなプラットフォームについては、日本は全て負けましたよね。そしてAIのガチの部分もなかなか勝てそうもないと思えるわけですが、東大でAIの研究をされている松尾豊さんが仰っているのがなかなか面白いなと思うんですけども、「日本人は手先が器用だ」と。で、実は今、AIで何が足りないかというと、この手先の器用さ。「エクステリティー」とわれわれ専門的にはいうんですが、情報処理の本チャンのところというより、イメージでいえばすしロボットとか、木の剪定ロボットとか、介護ロボットなど。調理ロボットなんかもそうですけども、料理という概念が変わるかもしれないじゃないですか。これまでの、人間の手だけでなされていた料理とは違う、何かもっと画期的な調理ができるようになるかもしれない。そういうことについては、実は日本はまだいけるんじゃないか。そこに日本はもっと資源を投資したほうがいいんじゃないかというのが、松尾さんの一つの予想なんですね。

僕、2年前に『IKIGAI〜日本人だけの長く幸せな人生を送る秘訣 』（新潮社）
という本を書きまして、今31カ国29言語で訳されています。その中でも書いたのが、7分間の「7ミニッツミラクル」といって、ハーバードビジネススクールが教科書でも取り上げてる、新幹線を7分間で全部掃除する取り組み。ああいうふうに掃除をするということの精神的な価値みたいなものを、日本は非常に大事にしていますよね。先日来日したトランプさんが見た大相撲も、ずっと掃除していますもんね。掃除は単なる掃除ではないし、人間同士にもあまり上下関係を付けず、みんなで協力し合ってやっていくという、日本人の文化的な資質は今、世界的に注目されているわけです。
で、この辺りのところとAIが結び付いたときに、何か非常に面白いことができるかもしれないと思うんですね。令和の語源となった万葉集はビューティフルハーモニーだそうですけども、無名の農民、防人の方から貴族、天皇陛下まで、みんなが歌を寄せるという歌集っていうのは、世界に例がないわけですよね。そこら辺の日本の強みは、今世界で起こっているAIの軍拡競争とは全く次元が違うんですけども、でも、その辺りで何かわれわれにできることって、きっとあるのかなというようにも思うんです。AIのエンジンの一番いいところで日本が世界に対抗しようと思っても、かなり大変なことですから。日本は日本の良さを生かしたらいい。そう思いませんか？

そこでどう付加価値を付けていくかっていうのは、まさに皆さんの考えていらっしゃることなんでしょうけど、例えば懐石料理にしても、世界的に最高峰の料理としての評価が定まっていますよね。まさに、多様性ですよね。器も多様で、食材は季節のもの。新橋の割烹、京味の西健一郎さんが、「茂木さん、日本料理は季節ですよ」っておっしゃるんです。「旬の一番安くなったときが一番おいしいんですよ。日本料理は引き算なんです。素材の一番おいしいところを引き算するのが料理なんですよ」と。すごいですよね。フレンチは芸術家でしょ。だからシェフが自然を素材にして料理を作るわけでしょ。だけど日本料理は引き算だという。すごいですよね。だから、この国には何かすごいところがあるんですよ。何とかしたいですよね。
今日お話した内容の10倍も100倍も1000倍も、AIでは今いろいろなことが起こっていて、ちょっとしゃべり足りないくらいなんですけども。でもこの異業種の方が集まるAI Salon、とてもいいんじゃないでしょうか。むしろガチのAIオタクっぽくない人がAIと結び付いたときに、スティーブ・ジョブスが言うところの「ドットとドットを結ぶ」ということが起こるんじゃないですか。だからガチでAIをやっている人たちとは違った、人間を豊かにする文化とか、そういったものの結び付きをこのAI Salonで探っていくといいのではないでしょうか。
今日はご清聴いただき、ありがとうございました。

(了)