「人間よりも機械の方が正しい判断をする」というのは、囲碁や将棋などのボードゲームをプレイする人工知能だけの世界でなく、随分前から既に生活の中の様々な部分で起こっていることだと思います。僕は以前、自転車を新調した際に、ハンドル部分にスマートフォンを装着できる器具を買ったんですが、それでスマホのナビ機能を使ってみるということにハマっていた時期がありました。危険なのでスマホの画面は走行中は見ませんが、スピーカーから右に曲がれ左に曲がれという指示が音声で聞こえるので、何も考えずにその指示に従うということをします。
ちょっと離れたホームセンターなどに行くとき、普段使っている道ではないところで曲がれと命令されることがあります。そのとき、僕は何も考えないように心がけているので、言われるがままに曲がるのですが、その指示に従っていると、なんと目的地についてしまうのです。機械の指示に従うだけで僕は目的を達成することができました。そして、そのとき通った道は、この地域に長年住んでいたものの一度も使ったことがない道でした。機械の指示に従っていると、その指示の意味を理解できなくても、自分の考え付かない方法だとしても、目的を達成できてしまうのです。
「表計算ソフトで計算した結果を、人間に電卓で検算させる」という行為を小馬鹿にするようなインターネット書込みを以前見たことがあります。しかし、これは必ずしも意味がないことではないと思います。なぜなら、複数の方法で計算した結果が一致するかどうかを確認するというのは、人間のミスを発見する際に有用な方法のひとつだからです。機械が計算自体を間違うことはほとんどありえません。しかし、例えば、計算範囲のセルの指定が間違っていただとか、入力値が見た目と計算値で利用する値が間違っていた（自動的に四捨五入されていたとか）など、理由は色々考えられますが、機械に計算させるための人間の指示や指定が間違っていることは多々ありえます。それを見つけるためには、別の方法でも同じ結果になるかどうかを確認するのが手っ取り早い方法のひとつです。
ただし、表計算ソフトの場合でも、対象とする項目数が何万行もの量になれば、電卓でひとつひとつ再計算することは作業量が多くなり困難です。そして、足し算や引き算のような単純な計算ならまだしも、計算内容が複雑になればなるほど、人力でやることは不可能に近くなります。なぜなら、そのような作業が楽にできるなら最初から機械にやらせる意味がないからです。このように、機械の仕事を人間がひとつひとつ検証できる範囲には限界があるのです。
以前僕が経験した事例ですが、ある同じ処理ができるはずの機械が２つありました。それらはそれぞれ同じ目的のために作られた別の会社が作った機械でしたが、あるデータを食わせるとある結果を出力することができるという機能を持ったものです。そして、僕はそれらの性能検証のために全く同じデータをそれぞれの機械に実際に食わせてみました。しかし、なんと出力された結果はそれぞれの機械で全然異なっていたのです。なぜそのような結果の違いがあったかというと、片方の機械のソフトウェアに不具合があったということが原因でした（最終的な調査結果として分かったことです）。しかし、これは困ったことです。どちらが間違っているか、あるいは、両方間違っているかを、それを利用しているユーザには確認する方法がないと考えられるからです。そのときはたまたま評価目的で複数の機械があったので発覚しましたが、もし、片方の機械しかなかったとき、その事実に気づけるでしょうか？
人間は機械が計算した結果をいかにして信じるに足ると判断すればよいのでしょう？技術者としてそれに取り組んでいるときには、まだ対処方法はいくつも考えられますが、ただ利用するだけのユーザとして接した場合、それを何を根拠に信じればいいかの判断は難しいことだと思います。「疑う手段がないものを使わざるを得ない」ということは、それを「強制的に信じるしかない」ということとほぼ同じことではないでしょうか？
「あなたは神を信じますか？」という言葉について、特定の宗教を信仰していると自己認識していない日本人の多くは「いいえ」と答えるかもしれません。神のお告げがその代理人と称する人によってもたらされたとき、神を信じないのであれば、そのお告げも信じる必要がありません。
ではそれが神ではなく機械であったならどうでしょうか？「あなたは機械を信じますか？」という問いに、同様に「いいえ」と答えた場合、その機械を使うことの意味が消失してしまいます。仮にそれが非常に便利な機械だとしても信じられない以上は使えませんから、もしかすると大変不便なことになってしまうかもしれません。では「はい」と、つまり「信じます」と答える場合、何をもってして機械のもたらす結果を信じると思えるのでしょうか？もし、そこに「特に理由はないが信じる」と答えるとしたら、それは神を信じるということと何が違うのでしょうか？
「何が違うのでしょうか？」なんて大仰なことを書きましたが、当然、全然違いますよね。例えば、ナビは目的地まで自分を連れて行ってくれるという結果があります。信じた結果良いことがあったという経験の積み重ねは、それを信じるに足る十分な理由になるでしょう。一方、神を信じるということに対して、ひとつの信じたということにひとつの分かりやすい結果が伴うということはまれです。しかし、そういうことです。原理は分からなくても、結果が満たされていれば、それを信じてしまうかもしれません。
八百長によって結果が分かっている賭け事があったとして、それを神のお告げとして次々に当てている神の代理人を名乗る人がいたとします。何度かの結果が得られてしまえば、八百長であるという事実を知らない人は、それが本当に神のお告げであると信じてしまうかもしれません。神という存在が出てきた時点でその一件が非現実的であると考えるならば、別の何かに置き換えてもいいです。例えば、人工知能による賭け事の結果予測システムが発明された！！と言われたとします。そして、その原理が分からないとします。その状態で、実際に目の前で連続して正解を出し続けられた場合に、それを本物だと信じるかどうかということです。信じない人も多いかもしれません。でも、信じる人もきっといるでしょう。
さて、機械がもたらす結果は、もし、その機械の持つ知性が人間の能力を十分に超えてしまった場合、人間にはその正しさを判別することが難しくなるという問題が発生します。そのように、十分高度な知性を機械が持ってしまった場合、機械によって導き出された結論は、もしかすると予言と区別がつかないかもしれません。
それは例えばITスキルのある人のいない会社が、ITスキルのある人を雇おうとするときに、その人に本当に高い技術があるのか判別できないというような話にも似ています。このようなことは、事実、社会の色んな場所で発生していることです。
実現不可能なものをできると自信満々に言い切るIT（インチキ）おじさんが、IT（インフォメーションテクノロジー）へのまともな知識を持たない投資おじさんを騙して、当初吹いていたようなものが一切できないままに、投資されたお金を無為に溶かしてしまうようなこともあります。KickStarterのようなクラウドファンディングでも、多くの人々から何かの製品を作るための資金を集めるのは成功したものの、結局完成しないもの、当初言っていたものとは全然別のものが完成するもの、完成はしたものの量産途中で資金が尽きたものなど、数多くの失敗も目にします。それはつまり、まだ作ってないものを作れると言っている人をどこまで信じられるかという話です。それを判断する能力が自分にない場合、では何をもって人々はそれを信じるかどうかを判断しているのでしょうか？
相手が人間で、技術の領域であれば、ある程度の知識があれば、その人がどれだけの根拠をもってしてそれを主張しているかを判断するという余地があります。しかし、その知識がない場合はそうはいきません。相手の名乗る肩書や、口の上手さに騙されてしまうかもしれません。そして、機械が人間を遥かに凌駕する知性を持ち得たとき、人間は常にその状態になってしまうかもしれないのです。
なぜそうなるかの理屈は上手く説明できないが、「ある行動をとれば、望みどおりの結果が出るらしい」という結論を機械が出すとします。人間がその理路を検証できない場合、とれる態度はそれを単純に「信じる」か「信じない」かという二択しかありません。それはつまり、対象が、人間よりも高度な知性を持つ人工知能であっても、神の力で未来を知ることができる予言者であったとしても、接する態度としては同じようなものになってしまうのではないでしょうか？
ジョジョの奇妙な冒険第三部にはボインゴという少年が登場します。彼のスタンド能力は、未来を予言する内容の描かれた漫画本を作りだせること。その漫画を読むことは誰にも可能ですが、描かれていることの意味は一見わけがわからないもののように見えます。例えば、「ある男の鼻の穴に指を突っ込むと、その男が仲間を含めて血を流して気絶する」と漫画に描いてありましたが、これだけ読むと何故そうなるのかが全く分かりません。しかし、実際に鼻の穴に指を突っ込んでみると、色々あって、彼らは車に轢かれてしまいました。これと同じようなことを人工知能に指示されたとしたらどうでしょう？自信を持って他人の鼻の穴に指を突っ込めますか？そしてもし、人工知能の計算が間違っていて、実際はそうはならなかったとしたらどうしますか？そして、もし、その予言自体が指し示していたのが、実は別の結果だった場合にはどうなるでしょうか？
高度な人工知能が出現した場合、それらとの付き合い方には、課題があるかもしれません。それを本当に信じられるか？という課題です。中身の分からないものを信じるということについて、どこまで身を預けることができるかという話です。どうでもいいことならいいかもしれません。しかし、それが命にかかわることだったらどうでしょう？あるいは、失敗したときに全財産を失うようなことであったなら。高度な知性体となった人工知能を信じるということと、予言者を名乗る占い師を信じることは、その判断の主体となる人間の意識の上では、意外と差がないのではないかと僕は思います。
ボインゴと予言漫画のお話は、もし、そのようなものが実在した場合に人間が直面するであろう問題のいくつかを示唆しています。まずは、その予言を信じられるかどうか？そして、その予言の通りに自分が行動できるかどうか？最後に、その予言は、本当に自分が意図した結果と結びついているかどうかです。
ジョジョのそのエピソードの最後は、「あるタイミングで銃を撃てば、敵の脳天を撃ち抜ける」という予言を信じて行った行為が、敵の脳天ではなく、予言漫画の絵の脳天の部分を撃ち抜いた結果に繋がりました。予言漫画自体は間違ってはいませんが、それを読んだ人間が認識した未来とは異なっていたということです。自分よりも正しい答えを出せる存在がいたとして、人間にそれを上手く扱えるかどうかは分かりません。
人工知能が神に近いほどに常に完璧な答えを出せるなら、信じて身を預けるという方法もあります。しかし、医療用人工知能がはじき出した治療法が実は間違っていたとしたら？自動運転で進んだ先の崖で転落してしまったら？あるいは、人工知能に任せた株取引で大損をこいてしまったら？いったい誰が悪かったことになるのでしょう？
信じたことが悪かったのでしょうか？いえ、それはもしかすると、信じるという行為に身を任せることで、疑うことを放棄してしまった罪なのかもしれません。
