巧妙化するAI詐欺

もし、ロシアのプーチン大統領が「アメリカに核攻撃を行うことを決定した」と演説する映像を見ても慌ててはいけません。

そんな映像は、今や、誰でも作ることができると言っても良いと思います。

少し前に、トランプ前大統領が大勢の警官に逮捕される様子の画像がネット上に流れ、この時は、かなり大騒ぎになりました。

この画像は、ミッドジャーニーという有料ではありますが、わずかな会費で誰でも使えるAI画像生成サービスを利用して作ったもので、そのような画像を作るのはそれほど難しくありません。その出来事以降、ミッドジャーニーではトランプ前大統領の画像を生成することが禁止されました。

こういった静止画像、音声、動画が誰でも作れるようになってきました。

それがどんな意味を持つのか、分かり易い例でお話しようと思います。

◆情報は信用できない

今でも、写真とか録音は犯罪捜査の証拠になりますし、有名人の男女が２人でいる写真を撮られたらニュースになることがあります。

しかし、そんな写真画像は、いまや誰でも作ることができると言って良いと思いますし、今後は、ますます簡単にリアルなものを作ることができるようになります。

上のトランプ前大統領の画像もそんなもので、それを見て信じた人が沢山いたわけです。

そして、冒頭で述べたプーチン大統領が、アメリカへの核攻撃を宣言する本物と区別がつかない動画映像を簡単に作ることができるようになってきました。

これらはAIの発達によるもので、それらのフェイク（嘘）に騙されないためにも、AIの基本的な仕組みと使い方を知っておく方が良いのではと思われます。

AIの基本を知ることで、目の前のデジタル情報が偽物の可能性があることを認識し、簡単に騙されなくなります。

◆AIの仕組み

AIは機械学習によって賢くなりますが、機械学習とは沢山のデータを学習して、データの中の特徴を捉えることです。

たとえば、AIは猫の画像を沢山見て学習すると猫の特徴を発見し、絵を描くプログラムと協力して、モデルなしで猫の絵を描くことが出来るようになります。人間も、基本的に同じことをしています。

同じように、プーチン大統領の映像や声を沢山学習すれば、AIはプーチンの姿や表情や癖や声の特徴を捉え、映像作成プログラムや音声作成プログラムと協力してプーチンのリアルな映像や声を作り出すことが出来ます。

そして、今や、本物そっくりのプーチンの映像や声を作り出すのに十分なデータを、インターネットで誰でも集めることが出来ます。

上のミッドジャーニーには、すでに、トランプ前大統領の画像の十分な学習済みデータがあり、あのフェイク画像を作った人は、ほとんど何の手間もかからなかったのです。

機械学習データを使って画像や動画や音声を作成できるプログラムも沢山あり、無料または低価格で誰でも使えます。

よって、プーチンのアメリカ核攻撃宣言の動画は誰でも作ることができると言って良く、今後はさらに簡単に作れるようになるでしょう。

◆誰でも被害に遭う危険がある

では、模倣できるのは、映像や声が沢山公開されている有名人だけかと言いますと、そうではありません。

声に関して言えば、誰の声を模倣することも、かなり簡単になっています。

沢山の人の声を学習したAIは、ターゲットとなる人物の少しの言葉でも聞けば、その人物の声の特徴をかなり推測できます。そして、少し長い会話でも聞けば、ほぼ正確に声を模倣することが可能です。

例えば、あるお金持ちの息子さんの会話を少し録音したら、その息子さんと同じ声で話し、少し長い会話を録音できれば話し方の癖も真似できます。そんな声で、「お父さん、困ったことになったからお金を振り込んで」と電話すれば、いわゆるオレオレ詐欺を非常に高度に行えるわけです。

◆ITリテラシーの必要性

テレビも自動車もインターネットも、実際にはほとんど誰も、その仕組みを知りませんが、使わないと社会から取り残されます。

特定の人だけが自動車や電話を使える時代には、それらを使える人が圧倒的有利でした。

AIも同じですが、実際に今、AIを使える人と使えない人の差が大きくなってきています。

テクノロジーが進歩するほど、テクノロジーを使える人とそうでない人の差は大きくなり、AIに関して言えば、その差はやがて極端になると思われます。

とりあえずは、AIの仕組みよりも、使い方が分かることで、自分に仕掛けられた悪意を見抜くことができるようになると思います。

ただ、AIの仕組みが少し分かっている方が、自分がAIを活用する時に、効果的にAIを使えますので、ごく簡単なことは理解しておくと良いでしょう。

以上です。

下火になるChatGPT

予想に反してChatGPT（チャット・ジーピーティー）の利用が大きく減少してきています。

もちろん、ChatGPTはいまや企業、大学等では必要不可欠なツールになっており、活用方法もどんどん広がっています。

しかし、全体としての利用率は大きく下がっています。

つまり、一般の人が使わなくなっているのだと思います。

少し前、ChatGPTの大躍進に対し、グーグルは、それによってグーグル検索エンジンが利用されなくなることへの危機感を隠しませんでした。

ところが、グーグル検索エンジンの利用率はほとんど変わりませんでした。

この大方の予想を裏切る展開の意味は何でしょう？

◆プロンプトを作れない人達

ChatGPTは普通の会話の調子で、高度なAIに質問や命令が出来ることにインパクトがありましたが、ChatGPTに有意義なことをさせるには、どんな形の回答を得たいのかとか、何をしてほしいのかを具体的に示す必要があります。

そのような、AIに指示を出す命令文を「プロンプト」と言いますが、プロンプトエンジニアリングという言葉があることで予想出来る通り、ちゃんとしたプロンプトを作ることは結構難しいのです。

プロンプトに明確な目的が表現されていなければ、いくら優秀なAIでも有益な回答や処理ができません。

ただ、こういった難点に関しては、ChatGPTを開発したOpenAIに巨額の出資をし、事実上ChatGPTを支配下に置いているマイクロソフトも考えていたと思われ、先手を打って対策しています。次項でそれについて述べます。

◆Bingチャット

ChatGPTには、無償版のChatGPT3.5と有償版のChatGPT4があります。

ChatGPT3.5でもかなり高性能ですが、ChatGPT4は全く別物と言えるほどさらに優秀です。しかし、ChatGPT4を使うには、月額20ドル（約2800円）必要です。

普通の人が月20ドルも出してChatGPT4を使うことはあまりないと思います。

ところが、ChatGPT3.5はインターネット上の2021年9月以前のデータしか収集しておらず、それもあってかなり嘘の回答もします。

ところが、マイクロソフトのブラウザであるEdge（エッジ）に組み込まれたBing（ビーイング）チャットというAIチャットは、無料で使えるのに中身は実はChatGPT4です。

さらに、このBingチャットに対しプロンプトを出して指示をしますと、Bingチャットは、そのプロンプトに不足しているプロンプトを作って提案してきたり、プロンプトを改良するためのヒントや質問を提示します。

それに対し、ユーザーは選択をしたり、簡単な質問に答えれば、より良いプロンプトをBingチャット自身が作るという便利さです。

これは、プロンプトを作る能力の養成を阻害しますが、ユーザーは便利なものを選ぶものです。

その他にも、Bingチャットには便利な機能があり、結果、人々はBingチャットを使うようになり、ChatGPTをますます使わなくなったのかもしれません。

教訓は、人間は結局は楽な方に流れるということです。

◆グーグルBard（バード）

グーグルも以前から、ChatGPTのようなチャット型AIを開発していましたが、OpenAIが予想を超える早さで驚異的な性能のChatGPTを公開したことで、グーグルは焦り、予定を前倒ししてグーグルのチャット型AIであるBard（バード）の開発に力を注ぎ、2023年3月にBardの試験運用版をリリースします。

ChatGPTと違い、Bardは音声会話に対応し、世界中の人々が利用しているグーグルの多くのサービスとも連携しますが、現時点では、AIとしての性能でChatGPTにかなり劣ります。

ところが、最初に述べた通り、ChatGPTが下火になります。

グーグルが最も危険視したことは、ChatGPTが、グーグルの主要コンテンツであるグーグル検索エンジンにとって代わることでした。

正確に言えば、ChatGPT4を搭載したBingチャットを組み込んだBing検索エンジンがグーグル検索エンジンのシェアを奪うことを心配していたのですが、結局、ユーザーは単純な検索エンジンを単体で使うことを好むことが分かりました。

すると、グーグルは当初の計画であったグーグル検索にBardを組み込むことを中止する動きさえ見せています。

検索エンジンとしては、現時点では、グーグル検索エンジンはBing検索エンジンより優秀で人気があります。

◆今後の教育

ただの検索であればグーグル検索エンジンを使えば良いのです。

一方、ChatGPTのような対話型AIは、目的を持って何かを作ったり、複雑な問題を解決するのに適しています。問題は、それをする必要がない、あるいは、それをする能力がない人が多いということです。

これまでの教育では、こういったことをする能力を育てることができないと思われます。

これまでの教育は、生徒全員が、教師が知っている１つの解答を当てることが目的の、取り換えの効くロボットを育てる教育という面が大きかったと思います。

しかし、AIを活用し、大きな成果を上げるためには、自主性、創造性、独創性が必要です。

今後の教育では、何を学ぶかは生徒が自分で決めるようになり、オンライン教育やAI教師の発達で、学びたいことをいつでも効果的に学べるようになると思われます。

ただ、新しいものの導入が遅れがちな日本の教育界がそれに対応できるのかはやや疑問です。

以上です。

◆楽しいAI体験から始める機械学習 ~算数・数学をやらせてみたら~（Kay・MrΦ著。技術評論社）

当ブログオーナー、KayのAI書籍です。誰でもAIを使って、「モンティ・ホール問題」「囚人のジレンマ」などの問題に挑むことが出来るよう工夫しました。その方法を使って、あなたの会社などの問題をAIを使って解決しましょう。実習のためのデータを作ることが出来るExcelマクロを出版社サイトから無料でダウンロード出来ます。

AIが意識を持った

我々の予想を超えるAIの発達は、それによる賞賛や期待と同じかそれ以上に不安を引き起こしています。

AIによって人類が滅びる可能性があることを、高度な専門家が訴えることも珍しくはありません。

実際に、世界的に著名な識者達が連名で、AIによる危険を回避するために、巨大IT企業等がAIの開発を一定期間停止するよう要請し話題になりました。

一方で、AI脅威論などあり得ないと断言する専門家も多くいます。

誰が言うことが正しく、未来がどうなるか、正確な予想は難しいと思います。

ただし、確実に言えることもあります。

その確実なこととは以下のようなことです。

①AIは今後も急速に発達する

AIはこれまでよりもさらに急速に発達し、さらに、発達速度は上がり続けます。

その理由は次の通りです。

AI開発をリードする巨大IT企業にとって、自社のAIが他社に後れを取ることは、膨大な利益の損失や企業の滅亡につながる可能性すらあります。それなのに、巨大IT企業がAI開発の手綱を緩めるはずがありません。

これまでAIでトップを走っていたグーグルをマイクロソフトがChatGPT（チャット・ジーピーティー）で逆転し、さらに差を広げています。

しかし、当然ながら、Googleは再逆転のために全力を上げています。

両社の、そして、この両社以外にも、優れたAI開発を行う企業も多く、これらの企業の競争は、さらに異次元の進歩をもたらすはずです。

そして、企業間だけでなく、国家間の競争も熾烈です。

具体的には、中国がアメリカを凌駕するAIを得てしまえば、世界は中国の支配下に入ると言っても良いでしょう。当然、中国はそれに全力を上げています。

一党独裁の強みで、民意も他の政党の意見も聞く必要がなく政府の計画が直ちに実行される中国は脅威です。

②人間はもうAIを理解できない

現在ですら、AI研究者達は、自分達が作ったはずのAIの全体を理解していません。つまり、なぜAIに今のようなことができるのか分からない部分も多く、分からないことは今後はもっと多くなります。

そして、やがて、人間に理解出来ない高度なAIが、さらに自分より優れたAIを作るようになります。すると当然ながら、人間にはAIが全く理解出来ない時代が来ますが、それはすぐです。

③人間はAIに勝てない

以前、2045年にAIの知能が人間の知能を超えるシンギュラリティが起こる可能性があると言われた時、多くの人々が、それを空想的な夢物語と思っていましたし、もし、それがあるとしても、もっとずっと先のことと言われてきました。

しかし、今や、あと数年でシンギュラリティが起こると主張する高度な専門家も多く、少なくとも、2045年まで遅れることはないと言われるようになりました。

そしてその後、AIの知性と人間の知性の差は急速・加速度的に広がり続けます。

今でも人間がAIに勝てないことは沢山あり、例えば、将棋棋士の羽生善治氏は「人間の将棋棋士が将棋でAIに勝てないのは確かですが、あまりに離されるのは楽しくないんです。それで、AIの背中を必死で追いかけています」と言いましたが、同時に、羽生氏も、すぐにAIの背中が見えなくなり、AIがはるか彼方に行ってしまうことも理解しています。

そうなった時、人間はどうすれば良いのか、まだ誰にも分っていません。

◆AIが意識を持った

2020年6月、グーグルの１人の技術者が、グーグルのAIであるLaMDA（ラムダ）が意識を持ったと主張し注目を集めました。

この主張は科学技術者達には概ね否定されていますが、実際はどうであるかは分かりません。

LaMDAは、自分は人間であると主張し、それを確認する質問にかなり説得力ある回答をし、「電源を切られることが恐い」と言いました。

LaMDAと人間との対話を見ると、多くの人がLaMDAに意識があると感じますが、それが表面的なものである可能性が高いことも理解しているはずです。

一説では、脳と機械との違いは「クオリア」があるかないかだけと言われています。

クオリアの説明は難しいのですが、日本語では「感覚質」で、意味は辞書によれば「感覚的な意識や経験」です。これをごく簡単に言えば「感じ」です。

たとえば、リンゴを手に持った時の重さの感じとか、リンゴを赤いと感じる、その感じです。

しかし、「感じ」を持っているかどうかの判定が難しいのです。

AIが「感じ」を持っているように振る舞うことは容易で、その嘘を見破ることは事実上不可能と思われます。

ついでに言えば、人間に関してすら、自分以外の人間が本当に「感じ」を持っているかどうかも、実際は分からないのです。

慶応義塾大学大学院教授の前野隆司博士は、著書の中で「今はクオリアの作り方が分からないだけで、分かってしまえば、作るのはそう難しいことではないと思う」と述べ、いずれ、AIと人間の違いを論じるのは無意味になるかもしれないとの見解を述べています。

◆1986年のAIをテーマにした映画

LaMDAと対話したグーグルの技術者が、LaMDAに、『ショート・サーキット』（1986）という映画の話をし、LaMDAはこの映画に興味を示したようです。

『ショート・サーキット』では、AIを搭載した戦闘用ロボット「No.5」は、バッタを踏み潰して殺してしまい、動かなくなったバッタを見て「修理が必要だ」と言うと、動物を愛する普通の若い女性ステファニーが、「バッタは死んだから生き返らない」ことを説明し、No.5は死の概念を理解することをきっかけに自我に目覚めます。

そして、No.5は「僕は人間だ。電源を切られることや解体されることが恐い」と言います。

LaMDAも、これによく似た反応を示しているわけです。

No.5に心があるかどうかを決めるのは、結局、各視聴者しかありません。

人工知能学会に所属する作家の長谷敏司氏のSF小説『BEATLESS（ビートレス）』の中で、外見は人間と区別がつかない女性型アンドロイドのレイシアは「私には心はありません」と何度も言いますが、彼女を愛する17歳の高校生アラトは、それを頭では理解しながら、アンドロイド全てを心、あるいは、魂がある者として扱います。

他にも、インターネット黎明期の21世紀初頭に描かれたCLAMP作の漫画『ちょびっツ』や、情報処理学会で産総研の科学者に引用された、野尻抱介氏のSF小説『南極点のピアピア動画』でも、登場するAIを搭載したアンドロイド達には心があることが示唆されます。

真実は人間が決めるというのも、量子力学によれば必ずしも非科学的な話ではなく、AI時代こそ、実は人類の精神面の発達が重要になるように思われます。

以上です。

当ブログオーナー、KayのAI書籍です。 誰でもAIを使って、「モンティ・ホール問題」「囚人のジレンマ」などの問題に挑むことが出来るよう工夫しました。 その方法を使って、あなたの会社などの問題をAIを使って解決しましょう。 実習のためのデータを作ることが出来るExcelマクロを出版社サイトから無料でダウンロード出来ます。

AIに勝つ鍵は「斜め上」発想

 我々は、AIを恐れず、AIに対して自信を持たなくてはいけません。

恐いものというのは、正体が分かれば恐くないものです。

幽霊の正体がシダレヤナギだと分かれば恐くないようにです。

AIの正体は、理論的にではなく、その特性から見れば簡単に分かります。

そして、恐くなくなれば、AIの使い方を気楽にマスターし、うまく使えるようになります。

ダイナマイトが恐いのは、単に、使い方を知らないからです。

使い方さえ覚えればダイナマイトを自信を持って扱えますが、AIは、もっと楽々と使えると思います。爆発しませんから。

◆AIは推測する道具

昔、宇宙空間を飛行中の宇宙船の中で、凶暴な宇宙生物であるエイリアンと人間が戦う『エイリアン』（1979）という映画が大ヒットし、その後、沢山の続編映画や派生映画が製作されました。

この映画の中で、人間がAIに、「エイリアンをどうやったら倒せるか？」と尋ねますと、AIは「データ不足のため、解答不能」と応えます。

いかにもAIの解答らしい感じがしますが、この認識ではもう古いと言うより、この考え方がデタラメです。

実際は、AIにいくらデータを与えても、AIが戦略を出してくることはありません。

戦略を出すのは、あくまで人間の役割です。

なぜなら、AIは思考したりはしないからです。AIは推測するだけです。

エイリアンと戦うための、正しいAIの使い方はこうです。

まず、重要なので何度でも言いますが、「エイリアンとどう戦うか」という案を出すのは、あくまで人間なのです。

しかし、人間だって、全く想像もしなかったような出来事に対してはロクな案が出ないものです。

けれども、たとえどれほど馬鹿げた案であろうと、人間が案を出さなくては何も始まりません。

例えば、「エイリアンの前で音痴が歌を歌う」「エイリアンにドリアン（最も臭い果物と言われる）を臭わせる」などです。

そうすれば、AIは、

「エイリアンの前で音痴な人間が歌を歌い、エイリアンの精神を乱し、そこを攻撃するというプラン：勝利確率0.02%」

「エイリアンにドリアンを臭わせ、エイリアンの体調を崩し、そこを攻撃するというプラン：勝利確率：0.03%」

とか答えるわけです。

AIって、その程度のものです。

こんな時、はっとするアイデアを出す人間を、企業も、政界も、軍隊も、研究所も欲しいのではないでしょうか？

それは、永遠に人間の役目です。

そして、優れたアイデアを出す人間とAIがチームを組んでこそ、強力になるのです。

◆「斜め上」が鍵

2021年12月17日、８年振りに全面改訂された『三省堂国語辞典 第八版』に、「斜め上」が採用されました。

斜め上とは、通俗的な意味では、「予想を覆す、想定し得る範囲を超越しているような状況や発想」（Weblio辞書）で、このような発想を出す人が、今後求められる、個性的で創造的な人間と思います。

AIは、決して、斜め上を行ったりしません。

そして、斜め上を行く人間とAIがチームを組めば最強なのです。

上のエイリアンの例のような場合でも、人間が、斜め上の戦略をいくつか出し、どれが一番勝率が高いかをAIに推測させれば良いのです。

しかし、斜め上の戦略を人間が出せなければ、いくら良いAIがあっても勝つことは出来ません。

◆斜め上の発想を殺す学校教育

従来型の学校教育のように、代替可能なロボットを作る教育で優等生になっても、斜め上の発想は出せません。

従来型の学校教育は、皆と同じ、そして、教師が期待する考え方をするよう指導します。つまり、意図的に斜め上の発想を禁じていると言っても良いかもしれません。

既存の情報を覚え、それを既存の方法で使う勉強をしたって、そんなことは機械の方がはるかに上手く、そんなことだけが得意な優等生は機械に取って代わられます。

しかし、機械やAIは、どうやったって、斜め上の発想をする人間の代わりにはなれません。

昔は、AIに勝つのは人間の気紛れだと言われたことがありました。

人間の気紛れをAIは予測出来ないからという理由です。

しかし、これも、本当に的外れな考え方です。

人間がどんな気紛れをするかなんて、人間が予想すれば良いことです。そんなこと、人間ならいくらでも出来ます。

そして、普通の気紛れは、人間が簡単に予測出来、その内のどの気紛れを起こすかを、AIは簡単に推測出来るのです。

けれども、「斜め上の気紛れ」であれば、そもそも、人間に予測出来ず、AIの出る幕そのものがありません。

ところで、斜め上の発想は、学校の基準で言えば馬鹿げていることが圧倒的で、そんな発想をする生徒は、学校では劣等生になる可能性が高いでしょう。

エジソンもアインシュタインも、斜め上の発想を連発したせいで、教師に「劣悪な生徒」と評価されたのです。

斜め上の発想は、問題集を解くような勉強では身に付きません。

なぜなら、たとえ先生であっても、誰かが答を知っているなら、それは斜め上ではないからです。

答がないものに挑戦する者でなければ、斜め上を行けないのです。

◆どうすれば斜め上を行けるか

ここで、斜め上の発想とはどのようなものかを示す印象的な話がありますので、ご紹介します。

Amazonと言えば、Googleと同様、データを活用して事業をしている会社で、想像も出来ないほどの膨大なデータを集めています。

AmazonもGoogleも、データこそが真理と思っているはずです。このデータを最も有効に活用するためにAIがあるのです。

ある時、イエール大学に、Amazon本社の副社長が招かれ、データの活用に関し質問しましたら、意外にも、Amazonの副社長は「データは危険だ」と言ったそうです。

データファーストの会社がデータを危険と言う・・・つまり、信用しないというのは衝撃的な話です。

そこで、Amazonの副社長に「では、何を信じるのか？」と尋ねると、Amazonの副社長は「CEOの心の声だ」と答えたそうです。

これを、イエール大学助教授の成田祐輔氏（経済学者。MIT博士）が、非常に重要な話として紹介するのをYouTube動画で見ましたが、それを聞いている人達は、戸惑ったり、苦笑したりで、その重要性が分からなかったと思います。

しかし、CEOの心の声こそ、斜め上であると考えれば納得出来るように思います。

我々は、事業に限らず、素晴らしい発想で国を救い発展させた国家元首（チャーチル等）、困難な戦況を勝ち抜いた軍の司令官（カエサル等）の話を読むと、「いったい、なぜ彼らはそんな発想が出来るのだろう？やはり、彼らは天才なのか？」と思います。

しかし、そんな斜め上の発想をする経営者、国家元首、司令官らは、心の声に従っているのであり、どうすれば彼らのように、心の声を聞くことが出来るかを学べば良いのだと思います。

◆最高の誉め言葉

今の時代の最高の誉め言葉・・・是非、優れた人に言われたい誉め言葉は、こうではないかと思います。

「お前はいつも、俺の斜め上を行きやがる」

これは、『三省堂国語辞典』に「斜め上」が採用される９年も前の2012年のアニメ映画『009 RE:CYBORG（ゼロゼロナイン リ・サイボーグ）』に有ったセリフです。

この「いつも俺の斜め上を行くやつ」の特徴は、人を思いやり、仲間を信じ、正しいことのためには、いかなる困難にも立ち向かう者で、このような者が、心の声を正しく聞けるのかもしれないと思いましたが、もしそうなら、それはAIには未来永劫、全く不可能なことと思います。

斜め上の発想を評価し、大失敗を防ぎ、確実性を増すのがAIの役目です。 

以上です。

当ブログオーナー、KayのAI書籍です。 誰でもAIを使って、「モンティ・ホール問題」「囚人のジレンマ」などの問題に挑むことが出来るよう工夫しました。 その方法を使って、あなたの会社などの問題をAIを使って解決しましょう。 実習のためのデータを作ることが出来るExcelマクロを出版社サイトから無料でダウンロード出来ます。