AI（人工知能）ファーストの危険

IBMのAIであるWATSON（ワトソン）を使った医療AIの診断能力は人間の医師を超えるという記事はよく見るのですが、一方、WATSONが人間の医師ならおよそやらない誤診をするという話は、全く伝わってきません。しかし、それはAIの構造上、あり得るのです。
今回は、ほとんど知られないAIの欠点についてお話します。

◆AIに出来ないこと
まず、基本的なことながら、多くの人が誤解していることは、AIとは、「思考するものではなく、推測するもの」であることです。
医療診断AIも、AIが患者の病気が何かを推測するのです。
しかし、現代のAIの主流であるディープラーニング（深層学習）型AIは、与えられた問題に対し、関連性が高い十分な量のデータを学習しなければ、まともな推測は出来ません。
人間であれば、2016年に、TEDで、Kaggle（データサイエンス関連業）の創設者、アンソニー・ゴールドブルームがこう適切に指摘しています。
「人間は、ほとんど共通点のない手掛かりを繋ぎ合わせ、見たことのない問題でも解決出来る」
これが出来ないAIには、少なくとも現状は、致命的な欠点があります。

◆AIの隠された不都合な真実
アメリカでは、服役囚の仮釈放の許可の判断にAIが活用されているようです。
これもまた、AIの推測能力を利用したものです。
AIは、過去の沢山の囚人に関するデータを学習することで、個々の囚人の再犯率を推測するためのルールを作ります。
そして、そのルールを使い、「この囚人を仮釈放したら、再び犯罪を行う可能性はどれほどか」を推測します。
しかし、本当に適切な推測が出来るルールを作れるだけのデータがAIに与えられているかは問われないのです。

◆AIの普及は経済的な需要
もし人間の裁判官が、
「黒人を仮釈放したら、再犯を犯しそうだから許可しない」
と言えば、人種差別になります。
ところが、実質同じことを、
「高度なAIが推測した」
と言えば通ってしまうのです。
けれども、AIに与えられるデータが十分でなければ、AIの推測にも偏見があり得ます。
ところが、「AIは人間よりずっと正しい」というテスト結果が示されれば、人間より速く安いという経済的な理由でAIが使われます。
例えば、AIが運転する自動車だって事故を起こす可能性はありますが、人間に比べ、はるかに事故率は低いでしょう。
しかし、だから、「問題はあっても、AIの方が人間より優秀だ。だからAIに任せれば良い」という風潮が強まると、AIに判断させてはならないことにも、AIを導入してしまうかもしれません。
極端ではありますが、戦争を開始する判断、核兵器を使用する判断をAIにまかせる、あるいは、重要な判断材料にすることはあり得ます。
けれども、戦争のデータ、ましてや、核兵器使用のデータなんかどこにあるでしょう？
そこで、これらの問題の判断が出来るようAIを教育するデータは、コンピューターシミュレーションで作ります。しかし、そのシミュレーションに偏りがないなんて、まず言えません。
一方、意図的に偏ったデータは作れますが、そんなデータを使っても「AIが判断した」と言えば、説得力を持ってしまうのです。
戦争ではなくても、重要な問題ながら、十分なデータがない場合はいくらでもあるでしょう。
現在、既に、重要な物事の決定で、AIの単独決定が行われているものもあると思いますが、それらのAIの場合は大丈夫でしょうか？

◆AIの判断はブラックボックス
既に誰でも自由に使えるAIがありますが、そのAIに同じ質問を連続して行うと、答えが違う場合があります。
自分にとって重要なことで、そんなことがあったら困るはずですが、現在、世の中に一般に出回っている重要なAIサービスにも、そんなものがあるかもしれません（筆者は実際に見つけました）。
AIが間違う原因は、やはり、上で述べたように、AIが学習するデータが不足しているのです。
ところで、重要な判断をAIにまかせるサービスを運営する事業者は、判断をAIが行っているのだということを隠すか、あえては公表しないことが多いでしょう。
それはどういうことか説明します。
AIの判断が、ユーザーにとって不都合であっても、サービス側は、その理由を明確に説明出来ないのです。
例えば、政府機関が、生活補助の申請受理をAIにやらせ、AIが、ある人の申請を拒否しても、その理由をまともに説明出来ません。
その理由は、AIの判断というのは、基本的にブラック・ボックスであり、その根拠は分からないからです。
サービス側は、自分達にも根拠が分からない判断を容認しているというわけです。
間違いがあると言っても、人間よりは間違いが少ないですし、圧倒的にコストが安いから容認せざるを得ない訳です。
その代わりに、特定のユーザーに何らかの迷惑をかけることも容認しているのですから、サービス側でAIのことが解っている者は、後ろめたさを感じます。
けれども、グーグルやフェイスブックのように、サービスが基本的に無料である場合には、サービス側の後ろめたさは少ないのです。ここに問題が入り込むスキが出てくるのではと思います。

◆AIの危険な導入を防ぐために
AI推進を進める巨大IT企業の代表者らの多くが、AI脅威論に対し、楽観的な見解を示すのは、AIファーストを推し進めることが、彼らの事業に必要だからでしょう。
しかし、一般の人々は、AIに関するスキル不足から、彼らに反論出来ません。
そこで、上記に述べたようなことを知り、危険なAIの普及が行われないか確認出来るようになることが必要と思います。

以上です。

AI（人工知能）は人間を超えない

AIが急速に発達する中で、
「遠くない未来に、シンギュラリティと呼ばれる技術的特異点が訪れ、AIの知性は人間を超える。それは2045年頃」
という話があります。
マイクロソフト創業者のビル・ゲイツや偉大な物理学者のスティーヴン・ホーキング博士、それに、火星移住や太陽光によるエネルギーの無償化他、数多くの画期的な事業を起こしているイーロン・マスクらは、それが人類の絶滅を招く危険を訴えます。
人間を超えたAIが、さらに自分を超えたAIを生み出し続け、やがて、神のごとく進化したAIが人類を滅ぼす気になれば、人類に抗う術はないという訳です。

AIが人間を超えると言える理由は、上記の「シンギュラリティ」の概念を提唱したAI研究者で大発明家のレイ・カーツワイルらの根拠は、大体が次のようなものです。

「人間の脳も、コンピューターのような信号処理を行っていて、コンピューターは脳をシミュレート出来る。
そして、脳神経細胞の数やアーキテクチャ（仕組みと構造）はかなり解明されており、脳がどのくらいの性能のコンピューターであるかは算出可能であり、それによれば、現在すでに、スーパーコンピューターは人間の脳と同等以上で、2020年代には、数万円のパソコンがそれに到達する。
さらに、20年もすれば、角砂糖１個の大きさのコンピューターが人間の脳の一億の一億倍とかの、桁外れの性能になる。」

レイ・カーツワイルは、これまで、未来予測を驚くほど正確に行っており、これらの予想も説得力を持って語ります。
彼は、「神はいない。だが、今後生まれる。それはAIである」と言います。

しかし、お言葉ながら、それは、「人間は鷹が歩くより10倍速く走れるので、スピードの点で人間は鷹を超えている」と言うようなものではないかと思います。
つまり、視点がおかしいのではないかと言いたいのです。
どういうことかと言いますと、人間の脳は、コンピューターのような信号処理を行っているだけではないからです。
その２つの根拠を述べましょう。

1970年代のイギリスに、生まれつき、脳がほとんどない、医学的に無脳症と呼ばれる子供がいたのですが、彼は普通に生活しただけでなく、大学では数学科で優秀な成績を収めました。
また、水頭症で脳が半分しかないのに、優れた科学者として一生を送った例もあるようです。
もし、脳がただのコンピューター（信号処理マシン）だとしたら、これらのようなことはあり得ません。
まあ、それらの話が、医者の誤診であったかもしれないという意見もあるのですが、近年の話であり、脳があるかないか程度のことで、全くの誤診があったとは考え難いと思います。
他にも、事故、あるいは、戦争で、脳のかなり大きな部分が破壊される重症を負いながら、その後も正常に生活を続けた例も少なからず報告されています。
脳の研究の発端となった、こんな事実があります。
1848年、アメリカ人フィニアス・ゲージは、火薬の爆発が原因で、長さ110cmの鉄棒が頭を貫通し（脳の多くが吹き飛ばされた）、その後彼は、性格は変わったそうですが、それ以外は以前と大きくは変わらなかったそうです。

別の角度から脳機能の再考を促すこんな話もあります。
これは、知性を工学的に研究している著名な科学者である前野隆司氏と、世界的な物理学者である保江邦夫博士の対談書にあったものです。
脳は、小学校低学年の算数をしている時は全領域が活性化しているのに、高度な数学の計算をしている時は、脳のわずかな一部が活性化しているだけだったことが、実験で実際に確認されているそうです。
＜『人間はロボットより幸せか？』（マキノ出版）より＞

それが本当なら、やはり、脳はコンピューターとはかなり異なったものであると考えられます。
そのことは、脳が量子的な働きをしているという脳量子理論でも語られています。

TEDでサイコパス（良心を持たないという精神的欠陥を持つ人間）について講演した脳の専門家（神経科学者）であるジェームス・ファロン博士は、「脳は分かっていることより未知なことの方が圧倒的に多い」と述べていました。
人間の知性の仕組みは、実際はまだほとんど分かっておらず、AIとの比較は限定的に行うべきと思われます。