問いを立てるデザイン ～AI時代の考え方～
〜AI Salon 第4回〜キーノーツスピーカー　スプツニ子！（東京藝術大学デザイン科准教授・アーティスト）

主催：Speedy, Inc.

構成：井尾　淳子
撮影：越間 有紀子
日程：2019年11月29日
場所：六本木ヒルズ

【AI Salonとは】
ブランドコンサルティングカンパニーであるスピーディ社がお届けする会員限定サロンです。企業がＡＩを「明日から使えるビジネスツール」として活用するには、どうすればいいか？ 毎月一緒に考えていきます。

第4回ゲスト／スプツニ子！
1985年東京都生まれ。東京藝術大学デザイン科准教授。ロンドン大学インペリアル・カレッジ数学部を卒業後、英国ロイヤル・カレッジ・オブ・アート（RCA）で修士課程を修了。2013年からマサチューセッツ工科大学（MIT）メディアラボ助教としてデザイン・フィクション研究室を主宰、2019年より現職。CA在学中より、テクノロジーによって変化する社会を考察・議論するデザイン作品を制作。主な展覧会に「Cooper Hewitt デザイントリエンナーレ」（クーパーヒューイット、アメリカ）、「Broken Nature」（ミラノトリエンナーレ2019，イタリア）など。VOGUE JAPAN ウーマン・オブ・ザ・イヤー2013受賞。2016年 第11回「ロレアル‐ユネスコ女性科学者 日本特別賞」受賞。2017年 世界経済フォーラムの選ぶ若手リーダー代表「ヤング・グローバル・リーダー」、2019年TEDフェローに選出。著書に『はみだす力』。共著に『ネットで進化する人類』（伊藤穣一監修）など。http://sputniko.com/

「スペキュラティブ・デザイン」は社会への問いかけ

皆さん、おはようございます！ スプツニ子!です。私はロンドン大学インペリアルカレッジという、イギリス版のMITのような所で数学やコンピュータサイエンスなど、主に理系を学びました。在学中はテクノロジーそのものも好きで面白かったのですけれど、それ以上に「テクノロジーと社会との関わり」というテーマにとても興味を持ち始めたんです。たとえば、当時のインペリアル・カレッジのコンピュータサイエンスのクラスは、100人中女性の生徒は9人しかいませんでした。それもエリートなイギリス人男性ばかり。そうすると、彼らの見ている世界だけでテクノロジーがどんどん進化して、女性やマイノリティの人たちにとっては「フェアじゃない世界が生まれつつある」という危機感を感じ始めていたんです。ならば、その問題をどうやって改善していけばいいかと思ってたどり着いたのが、「スペキュラティブ・デザイン」でした。デザインというと、機能的なものや美しいものを作って問題を解決することが目的、というイメージがありますよね。でも、「スペキュラティブ・デザイン」というのは、目の前にある問題をただ解決するだけではなく、「未来に起こりうるこんな問題に対して、あなたはどう考えますか？」と問題を提起する手法なのです。「こんな世界が起こりうるかもしれない」というシナリオをデザインの力で描き出して、コミュニケーションすることで人に考えてもらう。これが「スペキュラティブ・デザイン」のプロセスです。

AIによって生まれる「マイノリティ差別」

すでに問題が山積みのこの世の中で、なぜスペキュラティブ・デザインを通して新しい問題を探し出し問いを立てていくのか。そのことについて、今日は少しお話をさせてください。テクノロジーの世界では、欧米では「白人男性を中心に」、日本では「日本人男性を中心に」という、非常に限られた世界で、限られた事象しか解決されないということがよく起こっているんです。それがもっとも明確に表れたのは、避妊用ピルの承認です。避妊用ピルは、アメリカでは1960年代に承認されましたが、日本では1999年まで承認されませんでした。先進国の多くは60年代に承認したにも関わらず、国連加盟国では日本と北朝鮮だけ最後の最後まで、1999年まで承認しなかったんです。一方でバイアグラはすでに100人以上の死亡例があったにも関わらず、日本はなんとたったの半年で、世界にも希に見るスピードで承認されました。ピルは30年、バイアグラは半年。日本の議会のおじさんがどれだけバイアグラを使いたかったのかということがよくわかりますね(笑)。避妊用ピルは女性の人生設計を大きく左右する、非常にポジティブな影響を与えるものですが、この事例一つとっても、日本社会の構図がよく見えてきます。ともすると、「テクノロジーやサイエンス＝全人類に対して平等に世界をよくしている」というようなイメージを持たれることが多々ありますが、じつはその時々の社会的、宗教的、文化的、政治的要素に大きく左右されてしまうんです。これまでの歴史を見ても、残念なことに女性やマイノリティがテクノロジーやサイエンスから無視される対象となることがしばしばあります。しかも、その問題をもっとも抱えているのがAI、人工知能です。ですから、「AI最高！ AIどんどん行っちゃえ！」という潮流を、私自身は非常に懐疑的に感じている訳です。

AI採用ツールを廃止したAmazon

なぜ私がAI礼賛を危険視するかというと、ひとつは、AIがディープラーニングする現在と過去のデータに潜む社会的格差です。アメリカの裁判所で運用されている「コンパス」というAIが今非常に問題になっていることをご存知でしょうか。コンパスは犯罪者一人ひとりに対して再犯率を判断し、刑期を決めるAIです。ところが、アメリカには長い人種差別の歴史があります。そのせいで、AIは過去データをもとに「黒人のほうが貧困率が高く犯罪率も高い」という判断をしてしまう。するとどうなるでしょう。たとえば白人と黒人が同じような罪を犯した時、黒人に対して厳しい再犯率をAIが与えてしまうことになる。「統計上は黒人のほうが再犯率が高い」という判断から、「黒人のコミュニティでは犯罪率が高い」とされ、そこにたくさんの警察が配置される。すると、警察官の多さから逮捕率も再犯率も上がってしまい、AIによって永遠の負のループが生まれてしまう…という危険性を孕んでいるわけです。こういったことは、女性差別に関しても起こっています。Amazonでは最近、AIを使った採用が廃止になりました。理由は、過去の採用データを見ると、女性社員の採用が少なかったため、AIが「女性は採用しないほうがいい」と学習してしまったのです。その盲点に気づいたAmazonがこの採用ツールを廃止したのはとてもラッキーでしたが、あくまでも氷山の一角ではないでしょうか。すでに社会や企業で活用されているたくさんのAIの中に、女性差別や人種差別が生まれる仕組みがすでにもう潜んでいて、インプットされているんじゃないかなと危惧しています。これは非常に大事な問題で、私は「AIによる差別の肯定」を許してはいけないと常々思っています。

統計による決めつけが孕むリスク

私自身女性で、しかも女性に対してステレオタイプな見方が強い日本という国で、テクノロジーやサイエンスに関わっています。すると日本では「えっ数学が好きなの？ 女子なのに」とよく言われますし、テクノロジー系ベンチャーの投資家の人の中には「自分は女性には投資はしない」と堂々と言う人もいます。そういった部分でこれまでも苦労をしてきたのに、AI時代になって、人間でなくAIにまで差別をされる未来が訪れるのならば、それはユートピアどころかディストピアです。「統計による決めつけ」というのは、非常に生きづらい社会を生む。そしてAIは、統計による決めつけの産物なのです。こういった問題を解決するべく、2017年にMIT（マサチューセッツ工科大学）とハーバード大学のサイバースペース研究所バークマン・センターが、およそ30億円の研究ファンドを作りました。これは「人工知能の倫理とガバナンスのための基金」という、公共の利益を目的とした研究開発のためのファンドです。

効率化・合理化は果たして幸せか

そういった潮流もある中で、私自身が今とても気になっているのは顔認証です。最近はタクシーにもカメラがついていて、男性か女性か、年齢などを見分けて広告を流しますよね。私はあのシステムに大いに抵抗感を抱いてしまいます。私がタクシーに乗ると、カメラが私を女性と認識して、ピンクのヘアスプレーの広告が流れ始めます。タクシーに乗るたびに「女性なら髪の毛をやわらかくふわっとしよう」といったCMを見せられる。もし私に子供がいたとして、女の子だったら、町を歩いているだけで女の子向けの広告を毎日どこへ行っても浴び続ける。男の子だったら男の子向けの広告を毎日浴び続ける。それは苦痛以外の何物でもないと思っているので、今後自分の研究室では、顔認証を騙すウェアラブルを作れたらと考えいます。「女だね、男だね、東洋人だね、白人だね」といったステレオタイプ広告をされないようなウェアラブルです。タクシーに乗る時もそれをつけてれば女性か男性か、AIがわからない。子供が町を歩いていても、ターゲティング広告をされることはありません。もうひとつ、最近はAIに対する皮肉めいた作品を作りました。AIは効率性や合理性を重視するものなので、「四つ葉のクローバーをもっとも早いスピードで発見できるドローン」を作ったんです。幸せを一番早く認識して発見できるわけですが、でも四つ葉のクローバーって、散歩している時にふと見つけて探すプロセスが楽しく、幸せを感じるものじゃないですか。だから、ドローンによって超効率的に四つ葉のドローンを探してもらったところで、本当に幸せになれるのでしょうか、というメッセージを込めた作品です。効率性は上がったけれど、じゃあ私たちは幸せになっているのか。私たちは常にそのことを考えながら進むべきと思っています。自分の研究室では、こういった現代のAI社会、ターゲティング社会に対抗できるデバイスやデザインを考えたいです。

問いを立てるデザインで人の価値観を変えていきたい

最後になりますが、なぜ私が、この「問いを立てるデザイン」「スペキュラティブ・デザイン」を手掛けているのか。政治家になって法律を変えるとか、建築家になってビルを建てるとか、直接的な世界の変え方はいろいろあると思います。たとえばスティーブ・ジョブズがアイフォンを作ろうって思ったからスマホが今あるわけで、福田さんが今日ここに、スプツニ子！を呼ぼうと思われたから、今私がここでしゃべっているわけで、誰かが発想して考えたから全ての世界は生まれています。そこで私は問いを立てるデザインで、人々の考え方、価値観、テクノロジーに対する考え方を少しでも変えることができれば、そこから生まれる世界があるんじゃないかなと考えています。AIが統計による決めつけで、社会に大きな影響を与える問題を孕んでいるからこそ、問いを立てるデザインが解決する未来があるのではないかと。今日はそんな私の活動についてお話させていただきました。皆さん、ご清聴ありがとうございました！

(了)