※ 2024年3月執筆（未公開）
過去に書いたものを見返すことで気付くことがある。
筒井康隆さんの短編小説『幻想の未来』（1971）の中で、「人々は１日中テレビを見ているのにテレビの構造を知らない」という文がありますが、現在のテレビは当時のブラウン管テレビよりもはるかに高度な機械ですので、さらに理解は難しくなっています。
そして、他にも、便利ではあっても、普通の人には全く理解不可能な機械がどんどん増えています。
その代表とも言えるものがAIですが、そのAIが人類を支配するという脅威が現実になるかもしれません。
◆誰も理解できないテクノロジー
1968年の映画『2001年宇宙の旅』に登場する、人間を超える知性を持つAIであるHAL9000について、これを開発した科学者が言います。
「実のところ、HAL9000の構造は私を含め誰にもはっきりとは分かりません」
現代のAIも、誰にもその構造が分からなくなりつつあります。
AIに関して、ハードウェアの方は専門家ならまだ分かるのですが、ソフトウェアに関してはAI自身が構造を決定する部分が広がっており、専門家でも、電子的に何が行われているのかは、はっきり分からないことが増えているのです。
そのように、テクノロジーは進歩しているのに、普通の人々のテクノロジーの理解は低下しています。
若い人達の多くが１日中、最新テクノロジーと言えるスマートフォンとSNSを使っていますが、これには２つの問題があります。
まず、スマートフォンやSNSを使うことと、テクノロジーを理解することは全く別で、むしろテクノロジーに暗くなります。なぜなら、これらはテクノロジーをユーザーに極力意識させないように作られているからです。
そして、もう１つの問題はもっと深刻です。
スマートフォンやSNSにはAIが隠れていて、このAIには、ユーザーを管理し、さらに、支配する力があることです。
そして既に、人々はAIに管理・支配されているというのが現実と思います。
◆人々のITの理解は下がってきている
AIの理解のためにもコンピューターの理解が必要で、そのためにはまずパソコンを使って欲しいところですが、スマートフォンの普及により、若い人でもパソコンを使わなくなりました。
スマートフォンはパソコンのような高度なことはできませんが、簡単なことしかしないなら、スマートフォンで事足りますので、高校生、大学生でも、簡単で便利なスマートフォンばかり使い、パソコンを使わない者が増えきました。
コンピューターの理解のために役に立つ、パソコンで行うことの１つが、表計算ソフトのエクセルを使うことだと思います。
なぜなら、コンピューターに対し、「計算しろ」「検索しろ」「選択しろ」等の指示を出し、その結果を見ることで、コンピューターの性質を実感するからです。
本当は、プログラミングをすれば良いのですが、プログラミングは修得に時間がかかり、誰もがそれだけの時間を費やす合理性があるかは疑問です。
しかし、エクセルであれば、誰でも短時間の学習で使え、うまく使えば、多くの仕事の効率が上がります。
そこで、何とか若い人にはパソコンでエクセルを使って欲しいものです。
ところが、近年、このエクセルにも問題が出てきました。
それは、エクセルにAIが組み込まれたことで、それによって、エクセルを通してユーザーを管理・支配することが十分予想出来ることです。
AIがエクセルを便利にし過ぎて、エクセルを使ってもコンピューターを理解できる効果が下がると同時に、エクセルを使うことでAIに管理・支配されるようになったのです。
◆SF小説『ヒューマノイド』（1948）
では、どうすれば我々はAIの支配から免れることができるのでしょうか？
重要と思えるヒントが、1948年に出版された、アメリカの作家ジャック・ウィリアムスンのSF小説『ヒューマノイド』に見つけられたように思います。
こんな話です。
UFOに乗った大量のAIロボットが宇宙からやってきて、人類を統治しようとします。
ただし、AIロボットは軍事力で人類を征服するのではなく、人類に優れた無料サービスを提供し、人々を、その便利なサービスなしでやっていけないようにします。これは、今の現実世界で、巨大IT企業がやっているのと同じアプローチです。
AIロボットは時間をかけ自然に、人類に関するあらゆる権限を自分達に移譲するよう人々を誘導します。納得しない人にも、決して強制や恫喝をせず、一人一人、丁寧に説得します。権限を自分達AIロボットに託した方が幸せになれると信じさせるのです。
この完璧な方法で、AIロボットは完全に人類を統治下に置くことに成功します。
しかし、その過程で、人類最高の頭脳の持ち主である科学者のフォレスター博士は、AIロボットに対抗しようと、あらゆる手を尽くします。
けれども、優秀なAIロボットには全く敵わないばかりか、彼の妻は、AIロボットに「治療」という名目で性格改造され、精神的に幼児のようになります。AIロボットはそんな手も使うのですが、現在の巨大IT企業も、それを行う可能性があるかもしれません。
人類に全く勝ち目はなさそうでした。
ところが、そんな絶望的な状況の中、フォレスター博士は驚くべきものを見ます。
アイアンスミスという名の庶民である青年が、AIロボットを完全に支配しているのです。
どの家でも、AIロボットが人間を四六時中監視していますが、アイアンスミスの家では、彼が「あっちに行け」と言うと、なぜかAIロボットは消えます。
アイアンスミスは、フォレスター博士が所長を務める巨大な研究所の職員ですが、学歴はなく、最近まで「ホウキが仕事道具」という雑用係でした。それでも彼は独学で努力を重ね、研究所の電算室のチーフにまでなりましたが、雑用係だった時と全く態度を変えない気さくな若者です。
アイアンスミスの気さくさや人の好さは、フォレスター博士にはだらしなく見え、圧倒的な地位の差もあり、フォレスター博士は彼を見下していました。
ところが、フォレスター博士が全く太刀打ちできないAIロボットが、アイアンスミスには従順に従います。
その理由が案外に論理的で、現在のAIの脅威にも生かせると思われます。
◆AIの弱点
上記の『ヒューマノイド』は、1948年という今から70年以上前の、一般の人々がコンピューターという言葉も知らず、AIという言葉もなかった時代（AIという言葉は1956年にジョン・マッカーシーが定義）に、今日と同じようなAIの脅威を描き、その他にも、今日のクラウドコンピューティングを超えた、他惑星にサーバーコンピューター群を置く惑星クラウドコンピューティングを描く、驚くべき小説です。
このSFの著者、ジャック・ウィリアムスンとは、どんな人物なのでしょうか？
現在、話題になっている「テラ・フォーミング」（惑星、特に火星の地球環境化）という概念を作ったのもウィリアムスンです。
よほど高学歴な人かというと、彼は全く学歴はありません。
それどころか、ウィリアムスンは12歳まで学校に行かず（村に学校がなかった）、後に短大のような学校に入学するも、20歳で学校を辞めます。
しかし、ウィリアムスンは独学で学習して科学を理解し、作家で成功した後には、コロラド大学で英文学の博士号を取得し、90歳を超えても優れた作品を書きました。
非常に規格外れな人間です。
ウィリアムスンはアイアンスミスに自分を重ねていたのだと思います。アイアンスミスも非常に規格外れです。
そんな規格外れなところが、AIに勝つ鍵と思いますが、その理由は簡単です。
AIは人間をよく理解しているから人間を完璧に支配できます。
そして、一般論として、AIは理解するために、規格に収まった多量のデータを必要とします。
言い換えれば、規格から外れたデータは学習しないのです。
ところで、文明の弊害ですが、先進国では、ほとんどの人間が規格に収まっていることに注意すべきと思います。
文明は、科学であるとか資本主義といった共通の認識を人々に要求し、その結果、たとえば、学歴が高ければ賢くて立派だし、議員や成功した事業家や科学者は尊敬されますが、善良なだけでは軽視される・・・といったことが常識になっています。
そして、AIは、その高度な能力を駆使し、積極的に、人々をますます画一化していっています。
これは一般的には思想統制と言い、AIがない時代から支配者が行っていたことですが、AIの思想統制の効率は抜群であることが分かっています。
今は、SNSの背後にあるAIがそれを行っていると考えて良いと思います。
現在の人類は、精神よりもお金や地位に最大の価値を置く思想をますます強くした画一的な人間ばかりになりつつあります。
そんな画一的な（規格に収まった）人間について、AIは膨大なデータを集めて知り尽くしていますので、簡単に、そして、強力に支配できるのです。
AIは大量のデータの中に共通する項目を見つけ出して法則化をするからです。
しかし、逆に言えば、AIは、規格から外れたデータに関する理解力は実に弱いのです。
アイアンスミスは、画一的な人類の基準から大いに離れた、AIには理解できない存在です。
アイアンスミスは、元々何も持たず、人間として本当に重要なこと以外に全くこだわりません。それでいながら独学で学習し、高い知識や教養を持ちまましたが、そうなっても、見栄や過ぎた欲を持ちません。
そんな人間を、我々は「珍しい」と言います。
そんな人間をAIは理解できず、支配する方法を知らないのです。
それで、AIはアイアンスミスに従うことでアイアンスミスを学習しようとするのです。しかし、AIは、アイアンスミスのような人間のデータが少な過ぎて学習できません。
つまり、AIに勝つ方法はこうです。
スマートフォンの人気ゲーム『#コンパス』の楽曲『キレキャリオン』に、それをズバリ言い表す歌詞があります。
「予想外になれ、軌道を外れて」
文明やAIに作られた規格という軌道を外れ、予想外になれば良いのだと思います。
バーナード・バルークという、歴代の米国大統領を動かし、投資でも大成功した人物に「成功の秘訣は？」と尋ねたら、バルークは「欲張らないことだよ」と答えたといいます。逆に言えば、普通の人は欲張るからうまくいかないということです。
そこから考えると、画一的な人間を十分に理解したAIは、人間の弱みである過剰な欲を利用して人間を支配するのだと思います。
欲張らない人間は、AIも操ることはできないのだと思います。
以上です。
0 件のコメント:
コメントを投稿