人工知能（AI）は最近、大いに注目を集めています。
巨大な計算能力を持ち、数十億冊の本や文書にアクセスし、自己学習の能力と驚異的な処理速度を備えた機械が、いまや世界を支配しようとしているという見出しやニュースを読まずにはいられません。
昨晩、Fox Newsのホストであるタッカー・カールソンは、Elon MuskとAIについての詳細な対話を行いました。Muskの見解は楽観的ではありませんでした。
私はAIとその潜在的な可能性を数年間研究しています。
最近、私は国家安全保障の任務に汎用超知能とAIを適用するプロジェクトの一環として、世界で3番目に速い非政府系のスーパーコンピュータをいくつかの日訪れることができました。
AI はどの程度高度化しているのでしょうか?人間の知能とほぼ同じレベルにどれだけ近づいているのでしょうか。そして、それは人類にどのような危険をもたらすのでしょうか？
プラグを抜くだけでいい—少なくとも今のところ
実験者たちは今、機械が自ら生命を持ち、人間や文明を攻撃することを想像しています。
しかし、機械が狂暴になった場合、プラグを引っこ抜くだけで対処できることを覚えておくことが重要です。
AIの能力を擁護する者は、プラグを引っこ抜いても効果がないと主張しています。なぜなら、AIはその戦略を予測し、キャッチ・ミー・イフ・ユー・キャンのシナリオで別の機械に「エクスポート」され、一箇所を無効にしてもコードやアルゴリズムが他の場所に現れて攻撃を続けると考えるからです。
もしかするとそうかもしれません。
しかし、この方法にはさまざまな論理的な問題があります。それには必要な処理能力を持つ十分な数の機械が利用可能であるか、代替の機械がおそらくファイアウォールやデジタルの堀で囲まれていること、および構成や相互運用性の問題などが含まれます。
これらの制約を理解する必要がありますが、今のところは単にプラグを引っこ抜くことです。実際、AIの潜在的な被害を制限しながらも巨大な利益を得るためには、いくつかのセーフガードが提案されています。
これらには透明性（サードパーティーが欠陥を特定できるようにするため）、監視、弱化された形式の対抗的なトレーニング（機械が余暇に陰謀を巡らせずに問題を解決できるように）、承認ベースの修正（機械は自律的な機械学習を起動する前に「許可」を求める必要があります）、再帰的な報酬モデリング（機械は人間から「頭をなでられる」方向にしか移動しない）などが含まれます。
もちろん、これらのいずれのセーフガードも、AIの背後にある力が悪意的で実際に人類を破壊したいと思っている場合は機能しません。これは絶望的なアドルフ・ヒトラーの手に原子兵器を渡すのと同じようなものです。次に何が起こるかはわかっています。
ジェームズ・ボンド・ウィズ・AI
その場合の解決策は、より政治的で法的、そして防御志向のものになるでしょう。情報収集が非常に重要な役割を果たします。もちろん、これはすぐに機械対機械の知能戦争、収集、および欺瞞の戦いへと進展します。
ワルサーPPKの代わりにハイパーコンピュータを持つジェームズ・ボンドを想像してみてください。AIとGPT（生成的事前トレーニングトランスフォーマー）の最新の進展により、私たちはまさに新しい世界に立っています。
投資家は、巨大な処理能力にもかかわらず、財務アドバイスにGPTシステムを頼る際に慎重である必要があります。出力は常に入力よりも優れておらず、市場の入力は悪いモデル、誤った仮定、予測の記録の悪さ、および偏見で散りばめられています。
AIは既にウォークなイデオロギーでプログラムされている例があります。ウォークなスーパーインテリジェンスが創り出すディストピアの未来を想像できるでしょう。
ア・ウォーク (1984)
ご存知かもしれませんが、ジョージ・オーウェルのクラシックなディストピア小説『1984年』（しばしば1984年として出版されています）についてですね。この小説は1948年に書かれ、タイトルは1948年の最後の2桁を逆にしたものです。
この小説は、常に戦争状態にある三つの世界的な帝国、オセアニア、ユーラシア、イースタシアの世界を描いています。
オーウェルは彼の本のために独自の語彙を作り出し、その多くは今日でも一般的かつ皮肉な使い方がされています。『1984年』からの「思考警察」、「ビッグ・ブラザー」、「ダブルシンク」、「ニュースピーク」、「メモリー・ホール」などの用語はすべて、オーウェルの創造物です。
オーウェルは、第二次世界大戦後と冷戦の始まりのあとで、特定の国々がどのように進化するかについての警告としてこれを意図しました。彼は確かにスターリニズムに懸念を抱いていましたが、彼の警告は西洋の民主主義にも適用されました。
1984年のカレンダーが過ぎ去ったとき、多くの人々はオーウェルの予言が成就しなかったことに安堵のため息をついたかもしれません。しかし、その安堵のため息は時期尚早でした。オーウェルの悪夢のような社会が今日の共産主義中国の形で存在しているのです…
