ChatGPTは政治の道具となるのか？
From：ジム・リカーズ
ジム・リカーズは、ウォール街で40年の経験を持つ金融・経済の専門家。地政学に精通している彼は、地理的な条件から、軍事や外交、経済を分析することを得意とする。実際、米国における彼への信頼は非常に厚く、CNBC、ブルームバーグ、ウォール・ストリート・ジャーナルといった世界的なメディアに数多く出演し、政治問題や経済の動向について提言を求められてきた。さらに彼は、ホワイトハウス、CIA、国防総省の元顧問である。2008年にはリーマンショックの発生を予測し、CIAに対して助言を行っていた。彼のもう一つの肩書きは、5冊のベストセラー本の著者。その著書には『The New Case for Gold』（邦題：いますぐ金を買いなさい）や『The Death of Money』（邦題：ドル消滅）がある。政府機関が信頼を置いてきた彼の予測や提言は、きっとあなたの金融知識の向上、ひいては資産形成にお役立ていただけるだろう。
このところ、人工知能（AI）は大きな話題になっている。
膨大な計算能力、何十億冊もの書籍や文書へのアクセス、自己学習能力、驚異的な処理速度を可能にする「機械」が世界を掌握しようとするニュースを聞かない日はない。
イーロン・マスク氏はAIについて楽観視していないようだ。
AIの潜在的可能性
長年、私はAIとその潜在的可能性について調査している。
先日、世界で3番目に速い民間のスーパーコンピュータを視察した。一般化されたスーパーインテリジェンス、つまりAIを国家安全保障の取り組みに応用するプロジェクトの一環だ。スーパーインテリジェンスとは人間の能力を超越する人工知能や、その人工知能を持った機械のことである。
AIはどこまで進化しているのだろうか？
人間の知能とほぼ同等に近づきつつあるのだろうか？
そして、人類にどんな危険をもたらすのだろうか？
現在、研究者たちはAIが生命を持ち、人間や文明を攻撃すると思い描いている。もしもAIが狂暴化してしまったら？
答えは簡単だ。電源コードを抜けば良いのだ。
AIの潜在的可能性を支持する人たちは、電源コードを抜いても意味がないと主張する。AIはその戦略を予測して、別のAIに自分自身を「エクスポート」するからだ。
コードやアルゴリズムによって別の場所が現れる。つまり、電源を抜いて無効化したとしても攻撃が続くのだ。アルゴリズムとは特定の課題を解決したり、特定の目的を達成するための計算手順や処理手順である。
そうかもしれない。
しかし、システム上では問題もある。設定や相互運用性の課題も多いのだ。
・必要な処理能力を備えているのか？
・不正侵入を防ぐセキュリティシステムに保護されているのか？
こういった制約を理解する必要はある。だが、現時点では電源コードを抜けば良い。
実際、莫大な利益を得る一方で、AIによる潜在的な損害を抑えるため、いくつかの安全策が提起されている。
• 第三者が欠陥を特定できるようにする透明性
• 監視
• 敵対的学習（AIの頑健性を高める防御手法）の弱体化。それにより、AIは人類に陰謀を企てず問題を解決できるようになる
• 承認ベースに改良。AIは自発的学習を起動する前に「許可」を得なくてはならない
• 再帰的報酬モデル（AIは人間から「頭をなでられたら」特定の方向のみに動く）
• 他の類似した機能
AIの秘めた力が人類を破壊するような悪質なものだとしたら、どうなるのか。どんな安全策も役に立たないだろう。アドルフ・ヒトラーの手に原子爆弾を渡すようなものだ。
AIを手にしたジェームズ・ボンド
解決策はあるのだろうか。より政治的で、より法的、防衛的なものになるだろう。
機密情報の収集は大きな役割を果たし、欺いて異なった情報を渡す。やがて“AI vs AI” の知的戦争へと急速に発展するのだ。
ジェームズ・ボンドが拳銃ではなく、ハイパーコンピュータを手にしている姿を想像してみてほしい。
このところ、chatGPTに関するニュースが毎日のように流れている。AIやGPT（generative pre-trained transformersの略）が発展するにつれ、我々は目まぐるしく変わる世界に身を置くことになる。
AIやGPTシステムに投資家が金融アドバイスを求めるときには注意が必要だ。優れた情報を得られるわけではない。GPTシステムには膨大な処理能力があり、適切な情報がインプットされていたとしてもだ。インプットされた市場情報の全てが正しい訳ではないだろう。悪いモデル、誤った仮定、乏しい予想実績、偏った見解が散見される。
AIは、すでに高い倫理観でプログラムされている。倫理観を持ったAIが創り出すディストピア（反理想郷）な未来を想像してほしい。
中国が「1984」の世界を体現
ジョージ・オーウェルの古典ディストピア小説の「1984（原題：Nineteen Eighty-Four）」を知っているだろうか。この本は、1948年に書かれ、題名は、最後の2桁を逆にしている。
小説では、オセアニア、ユーラシア、イースタシアという3つの世界帝国が常に戦争する世界が描かれている。
オーウェルの警告は西洋諸国の民主主義にも当てはまる。同氏は第二次世界大戦の余波および冷戦が始まったときに、特定の国々がいかに発展するか示そうとした。明らかにスターリン主義を懸念していたのだ。
1984年が終わり、多くの人はオーウェルの予言が当たらず安堵した。しかし安堵するには早かった。中国は、オーウェルの本に描かれた全体主義社会の多くの特徴を体現している。
同氏が描いた悪夢の社会は「共産主義国家、中国」の形で現在に至る。
中国はAIに熱心に取り組んでおり、国民を追跡するために顔認識ができるソフトウエアや、至るところにデジタル監視カメラを設置している。さらに、インターネットを検閲し監視しているのだ。
政府やその政策に反した意見を述べると、思想警察が逮捕する。数百万人の中国人が逮捕され、洗脳するために「再教育キャンプ」に送られた。
このような残虐な行為は、米国や現在の西側諸国では起こらないだろう。中国監視国家はどうだろうか。目立たぬよう処罰を与える可能性はある。
好ましくない意見を述べたり、一般的な教えに反論しても、少なくとも今は逮捕されないかもしれない。だが、その他の制裁を受けるかもしれない。職を失い、別の仕事を見つけるのもほぼ不可能だろう。
検閲対象
一般的な内容だったら旧フェイスブック、ツイッター、インスタグラム、スナップチャット、YouTubeなどのソーシャルメディアで掲載しても問題はなさそうだ。
一方でソーシャルメディアから追放される場合もある。保守的な見解や政治的な発言は、検閲の対象になるのだ。
保守的な人たちの多くが、アカウントの閉鎖や停止に追い込まれている。脅迫やわいせつな内容を投稿したからではない。「進歩的」な意見に対して鋭い批判をしたのである。
一方、「進歩的」な意見を持っている人たちには何も起こらない。暴力を暗に認めたり、ソーシャルメディアであらゆるものを発信してもだ。
保守的な人が「シャドウバン」の標的になった例もある。シャドウバンとは、Twitter運営から不適切な行為やツイートなどを行ったユーザーに与えられる「一時的に受ける見えないペナルティ」のことだ。
「シャドウバン」されても、一見アカウントは正常に作動しているように見える。だが、「いいね」や「リツイート」など人気の機能が断ち切られ、配信されない。知らないうちにネットワーク上であなたの投稿は見られないようにブロックされているのだ。
この傾向は増加しており、止めるのは困難だ。そして、国民を監視する高性能な監視カメラは、すでに準備が整っているのだ。
権力の乱用
例えば、最新の技術を用いた監視カメラは、99％以上の精度で数百万人もの顔をリアルタイムで検出し、照合できる。テロ対策や犯罪防止のツールとして広く知られているが、その通りだ。
しかし、スターリン時代の冷酷な秘密警察長官だったラヴレンチー・ベリヤは、「男を差し出せば、犯罪を立証できる。」と無実の人間でも犯罪人に仕立て上げられると自負していた。したがって、権力を乱用し一般市民を標的にするのは容易に想像がつく。
ちなみに、後にベリアは国家反逆罪で逮捕された後に処刑されたため、最終的に自分が主張していたものを証明した形となった。
悪質な人間が誤解を招く情報をシステムに投入し始め、AI開発者のコードに潜入する懸念もあり、AIが独裁政治の道具になる可能性は否定できない。
最後に、今後もAIの動向を見守るべきで、重要な質問を問いかけるべきだ。しかし、近い将来、世界を掌握する心配はしなくても良いだろう。
ただ、共産主義国家、中国のようにはならないよう警戒すべきだ。
P.S.
著者のジム・リカーズについては、こちらで詳しくお伝えしています。
>>詳しく見る