巧妙化するAI詐欺

もし、ロシアのプーチン大統領が「アメリカに核攻撃を行うことを決定した」と演説する映像を見ても慌ててはいけません。

そんな映像は、今や、誰でも作ることができると言っても良いと思います。

少し前に、トランプ前大統領が大勢の警官に逮捕される様子の画像がネット上に流れ、この時は、かなり大騒ぎになりました。

この画像は、ミッドジャーニーという有料ではありますが、わずかな会費で誰でも使えるAI画像生成サービスを利用して作ったもので、そのような画像を作るのはそれほど難しくありません。その出来事以降、ミッドジャーニーではトランプ前大統領の画像を生成することが禁止されました。

こういった静止画像、音声、動画が誰でも作れるようになってきました。

それがどんな意味を持つのか、分かり易い例でお話しようと思います。

◆情報は信用できない

今でも、写真とか録音は犯罪捜査の証拠になりますし、有名人の男女が２人でいる写真を撮られたらニュースになることがあります。

しかし、そんな写真画像は、いまや誰でも作ることができると言って良いと思いますし、今後は、ますます簡単にリアルなものを作ることができるようになります。

上のトランプ前大統領の画像もそんなもので、それを見て信じた人が沢山いたわけです。

そして、冒頭で述べたプーチン大統領が、アメリカへの核攻撃を宣言する本物と区別がつかない動画映像を簡単に作ることができるようになってきました。

これらはAIの発達によるもので、それらのフェイク（嘘）に騙されないためにも、AIの基本的な仕組みと使い方を知っておく方が良いのではと思われます。

AIの基本を知ることで、目の前のデジタル情報が偽物の可能性があることを認識し、簡単に騙されなくなります。

◆AIの仕組み

AIは機械学習によって賢くなりますが、機械学習とは沢山のデータを学習して、データの中の特徴を捉えることです。

たとえば、AIは猫の画像を沢山見て学習すると猫の特徴を発見し、絵を描くプログラムと協力して、モデルなしで猫の絵を描くことが出来るようになります。人間も、基本的に同じことをしています。

同じように、プーチン大統領の映像や声を沢山学習すれば、AIはプーチンの姿や表情や癖や声の特徴を捉え、映像作成プログラムや音声作成プログラムと協力してプーチンのリアルな映像や声を作り出すことが出来ます。

そして、今や、本物そっくりのプーチンの映像や声を作り出すのに十分なデータを、インターネットで誰でも集めることが出来ます。

上のミッドジャーニーには、すでに、トランプ前大統領の画像の十分な学習済みデータがあり、あのフェイク画像を作った人は、ほとんど何の手間もかからなかったのです。

機械学習データを使って画像や動画や音声を作成できるプログラムも沢山あり、無料または低価格で誰でも使えます。

よって、プーチンのアメリカ核攻撃宣言の動画は誰でも作ることができると言って良く、今後はさらに簡単に作れるようになるでしょう。

◆誰でも被害に遭う危険がある

では、模倣できるのは、映像や声が沢山公開されている有名人だけかと言いますと、そうではありません。

声に関して言えば、誰の声を模倣することも、かなり簡単になっています。

沢山の人の声を学習したAIは、ターゲットとなる人物の少しの言葉でも聞けば、その人物の声の特徴をかなり推測できます。そして、少し長い会話でも聞けば、ほぼ正確に声を模倣することが可能です。

例えば、あるお金持ちの息子さんの会話を少し録音したら、その息子さんと同じ声で話し、少し長い会話を録音できれば話し方の癖も真似できます。そんな声で、「お父さん、困ったことになったからお金を振り込んで」と電話すれば、いわゆるオレオレ詐欺を非常に高度に行えるわけです。

◆ITリテラシーの必要性

テレビも自動車もインターネットも、実際にはほとんど誰も、その仕組みを知りませんが、使わないと社会から取り残されます。

特定の人だけが自動車や電話を使える時代には、それらを使える人が圧倒的有利でした。

AIも同じですが、実際に今、AIを使える人と使えない人の差が大きくなってきています。

テクノロジーが進歩するほど、テクノロジーを使える人とそうでない人の差は大きくなり、AIに関して言えば、その差はやがて極端になると思われます。

とりあえずは、AIの仕組みよりも、使い方が分かることで、自分に仕掛けられた悪意を見抜くことができるようになると思います。

ただ、AIの仕組みが少し分かっている方が、自分がAIを活用する時に、効果的にAIを使えますので、ごく簡単なことは理解しておくと良いでしょう。

以上です。

下火になるChatGPT

予想に反してChatGPT（チャット・ジーピーティー）の利用が大きく減少してきています。

もちろん、ChatGPTはいまや企業、大学等では必要不可欠なツールになっており、活用方法もどんどん広がっています。

しかし、全体としての利用率は大きく下がっています。

つまり、一般の人が使わなくなっているのだと思います。

少し前、ChatGPTの大躍進に対し、グーグルは、それによってグーグル検索エンジンが利用されなくなることへの危機感を隠しませんでした。

ところが、グーグル検索エンジンの利用率はほとんど変わりませんでした。

この大方の予想を裏切る展開の意味は何でしょう？

◆プロンプトを作れない人達

ChatGPTは普通の会話の調子で、高度なAIに質問や命令が出来ることにインパクトがありましたが、ChatGPTに有意義なことをさせるには、どんな形の回答を得たいのかとか、何をしてほしいのかを具体的に示す必要があります。

そのような、AIに指示を出す命令文を「プロンプト」と言いますが、プロンプトエンジニアリングという言葉があることで予想出来る通り、ちゃんとしたプロンプトを作ることは結構難しいのです。

プロンプトに明確な目的が表現されていなければ、いくら優秀なAIでも有益な回答や処理ができません。

ただ、こういった難点に関しては、ChatGPTを開発したOpenAIに巨額の出資をし、事実上ChatGPTを支配下に置いているマイクロソフトも考えていたと思われ、先手を打って対策しています。次項でそれについて述べます。

◆Bingチャット

ChatGPTには、無償版のChatGPT3.5と有償版のChatGPT4があります。

ChatGPT3.5でもかなり高性能ですが、ChatGPT4は全く別物と言えるほどさらに優秀です。しかし、ChatGPT4を使うには、月額20ドル（約2800円）必要です。

普通の人が月20ドルも出してChatGPT4を使うことはあまりないと思います。

ところが、ChatGPT3.5はインターネット上の2021年9月以前のデータしか収集しておらず、それもあってかなり嘘の回答もします。

ところが、マイクロソフトのブラウザであるEdge（エッジ）に組み込まれたBing（ビーイング）チャットというAIチャットは、無料で使えるのに中身は実はChatGPT4です。

さらに、このBingチャットに対しプロンプトを出して指示をしますと、Bingチャットは、そのプロンプトに不足しているプロンプトを作って提案してきたり、プロンプトを改良するためのヒントや質問を提示します。

それに対し、ユーザーは選択をしたり、簡単な質問に答えれば、より良いプロンプトをBingチャット自身が作るという便利さです。

これは、プロンプトを作る能力の養成を阻害しますが、ユーザーは便利なものを選ぶものです。

その他にも、Bingチャットには便利な機能があり、結果、人々はBingチャットを使うようになり、ChatGPTをますます使わなくなったのかもしれません。

教訓は、人間は結局は楽な方に流れるということです。

◆グーグルBard（バード）

グーグルも以前から、ChatGPTのようなチャット型AIを開発していましたが、OpenAIが予想を超える早さで驚異的な性能のChatGPTを公開したことで、グーグルは焦り、予定を前倒ししてグーグルのチャット型AIであるBard（バード）の開発に力を注ぎ、2023年3月にBardの試験運用版をリリースします。

ChatGPTと違い、Bardは音声会話に対応し、世界中の人々が利用しているグーグルの多くのサービスとも連携しますが、現時点では、AIとしての性能でChatGPTにかなり劣ります。

ところが、最初に述べた通り、ChatGPTが下火になります。

グーグルが最も危険視したことは、ChatGPTが、グーグルの主要コンテンツであるグーグル検索エンジンにとって代わることでした。

正確に言えば、ChatGPT4を搭載したBingチャットを組み込んだBing検索エンジンがグーグル検索エンジンのシェアを奪うことを心配していたのですが、結局、ユーザーは単純な検索エンジンを単体で使うことを好むことが分かりました。

すると、グーグルは当初の計画であったグーグル検索にBardを組み込むことを中止する動きさえ見せています。

検索エンジンとしては、現時点では、グーグル検索エンジンはBing検索エンジンより優秀で人気があります。

◆今後の教育

ただの検索であればグーグル検索エンジンを使えば良いのです。

一方、ChatGPTのような対話型AIは、目的を持って何かを作ったり、複雑な問題を解決するのに適しています。問題は、それをする必要がない、あるいは、それをする能力がない人が多いということです。

これまでの教育では、こういったことをする能力を育てることができないと思われます。

これまでの教育は、生徒全員が、教師が知っている１つの解答を当てることが目的の、取り換えの効くロボットを育てる教育という面が大きかったと思います。

しかし、AIを活用し、大きな成果を上げるためには、自主性、創造性、独創性が必要です。

今後の教育では、何を学ぶかは生徒が自分で決めるようになり、オンライン教育やAI教師の発達で、学びたいことをいつでも効果的に学べるようになると思われます。

ただ、新しいものの導入が遅れがちな日本の教育界がそれに対応できるのかはやや疑問です。

以上です。

◆楽しいAI体験から始める機械学習 ~算数・数学をやらせてみたら~（Kay・MrΦ著。技術評論社）

当ブログオーナー、KayのAI書籍です。誰でもAIを使って、「モンティ・ホール問題」「囚人のジレンマ」などの問題に挑むことが出来るよう工夫しました。その方法を使って、あなたの会社などの問題をAIを使って解決しましょう。実習のためのデータを作ることが出来るExcelマクロを出版社サイトから無料でダウンロード出来ます。