最近Googleなどで調べ物をするとAIが検索結果を調べつくして知りたい情報を提案してくれることがありませんか？その内容はあまりにも的外れのことも多く，結局もとの情報源にさかのぼって一から情報を収集しなければならないことが多々あります(みなさんもこのような経験がありませんか？)。しかし別にAIに人をだまそうという悪意があるわけではなく，どうも学習した情報と与えられた条件を踏まえたうえで，もっともらしい推論をするという彼らの仕事を全うしているにすぎないようなのです。AIがこうした知ったかぶりをして，平然ともっともらしい嘘をつくことを「ハルシネーション(Hallucination)」というようです。

「ハルシネーション」はなぜ起こるのでしょうか？AIの開発のための自然言語処理を研究している友人に尋ねてみたことがあります。彼曰く、一つには、AIは与えられた情報から推論するため，その情報から外れたことを推測するのが苦手であるということらしいです。例えば統計上最も多い値を中心として考えた場合，どうしても統計上さほど有意(重要)なものとは思えない「外れ値」というものは軽視してしまいがちです。AIを使った自動運転車などはこの「外れ値」を考慮しないととっさの際に判断ができず死亡事故が発生してしまいますからあらゆるパターンの「外れ値」を想定して教え込む必要がありますが，この「外れ値」まで教えたとしてもAIにとっては大事なデータとは見なさずに切り捨ててしまう傾向にあるそうです。

ここからは設計者とAIのいたちごっこで，何度反復してデータを投入し教えればAIは「外れ値」を重要な要素だと認識してまちがいを修正できるか，という問題に帰着し，当然大がかりなAIであれば完璧に教え込むために多額の投資が必要になるそうです。コスパの悪さから、いかに自動運転のレベル5(どのような状況下でもドライバーが関与しない状態)を達成することが難しいかが分かりますし，開発費用の負担の分担や保険料の値上げなど、開発のためにかかった莫大なコストは誰が負担すべきなのか課題が山積みです。

このことから分かることは，AIは統計上最も多いボリュームゾーンの知識を活用してもっともらしい結論を表現しているだけであって，細かいことにまで気を配り総合して自分の意見を述べているわけでない、ということです。たしかに記憶量は人間の比にならないぐらい優れているのは異論がありませんが，それはデータを食べて蓄積しているだけで，そのデータを意味あるものとして血肉化し糧として思考しているわけではないのです。与えられたデータの意味を考えないがゆえに，人間であればここは注意した方がいいかもしれないなと気付くことのできるような「外れ値」を何度も見逃すという，修正力の弱さこそがAIの弱点のようです。数学者でAI開発に携わっておられる新井紀子氏も次のように述べられています。「現状の「大規模ニューラルネットワークと学習」によるAIは、外れ値に弱い上、その外れ値での誤りを修正できるかどうかわかりません。外れ値を教師データに取り込むことで、全体の精度がむしろ下がる危険性があるからです。また、誤りを経験した直後に修正することもできません。モデルの再学習には時間がかかるためです。経験した誤りから「すぐに学べる」人間と大きな差です。(東洋経済新報社「シン読解力: 学力と人生を決めるもうひとつの読み方」 p.73)」

逆説的に言えば「修正する力」にこそ人間の強みがあるのではないでしょうか。人間とコンピュータの思考方法で最も違う点は五感を使っているか否かという点だと思います。叱責されたり，褒められたり，悔しい思いをしたり，楽しかった時など感情を伴うきっかけはその後の行動の変化にもつながることが多くないでしょうか。人間は動物のなかでも特に意味を理解することのできる生き物ですので、五感も活用し，指摘されたことをわりとすぐに修正できる能力を持っています(人によって修正や適応のスピードは異なるでしょうが、それでも人間はAIよりははるかに修正することに向いているのではないでしょうか)。人間の思考はAIのように単にデータを処理するというリニア(直線)的な単純な回路ではないのです。

AIの能力は疑うべくもないし，これからも学校や仕事で良きパートナーとなっていく未来はまちがいないでしょう。しかし，AIこそが正しいと妄信して人間が多元的な思考を放棄したり，これこそが合理的な思考法だとAIと同じ思考回路をまねようとするのであれば，人間が本来強みとして持っている「意味を理解する力」と「修正する力」が日に日に鈍麻していくにちがいありません。これらの能力はやはり人間同士の五感を通じた双方向の触発でしか磨くことのできないものだと思いますし，一流の文学作品などの読解を通じてこれからの教育が重心を置くべき大切な能力のうちの一つだと私は思います。

さぁ、多くの学校では中間テストがせまっています。秋になり受験生にとっては入試本番までの焦りもあるでしょう。しかし人間はあやまちに気づき、今日からでも修正して成長することができる生き物です。失敗を恐れずに、むしろ失敗した分だけそれを糧として誰よりも努力して修正することができれば、失敗もAIも恐るるに足らず、ではないでしょうか？

現在2学期の授業の体験生を受付中です。

資料請求(無料)のお申し込みはこちらから！

無料体験授業(各教科1回ずつ)のお申し込みはこちらから！