“AI倫理”という言葉をよく聞くようになった。

AIの誤作動によるトラブルの代表的なものは下記の通り。

・AI家電のトラブル多発
AIスピーカーが勝手に物品を発注した。AI掃除機が家具をめちゃくちゃに壊した。スマート家電がプライバシー情報を漏洩させた、など身近に問題が起きている。

・AIによる融資審査や株式発注など深層学習後の判断プロセスがわからずトラブルへ
米アップルのクレジットカード（運用はゴールドマン・サックス）の与信限度額を決めるAIアルゴリズムが女性より男性を優遇した。株式の誤発注で株式市況が混乱したこともある。

・AI搭載のUber自動運転車による歩行者死亡事故
米アリゾナ州フェニックス郊外でAI搭載カーが、最後までそれが「人間」だと認識できず跳ねてしまった。

・AIドローンが大量殺傷兵器として利用される可能性
AIは、銃を持っている人物が「狩りをしようとしているのか、戦闘行為をしようとしているのか」識別できず誤認識するかもしれず、テロと無関係な民間人が被害を被る可能性がある。

AI の最大の問題は、「なぜそう判断したのか」はわからないことが多いことだ。
おそらく、AIに対する人間の最大の仕事は、「予想外のシナリオ」を考えることだろう。

揃った材料から物事を類推するのではなく、”無いもの”から”有り得る”ことを考え出さないといけない。データがまったくないものを想定する力を育てるためには、人間の経験と直感を鍛える自然との触れ合いが大切になってくると思う。

◆参考
人類を滅ぼすAI！「ソフィア」が注目される理由を調べてみた
https://ainow.ai/2019/10/01/176315/

映画「ウエストワールド」U-NEXT
https://video.unext.jp/play/SID0036898/ED00209438