個別に見ると、これは労働者にとっては損失ですが、雇用主にとっては利益です。しかし、これを経済全体に当てはめると、すべての企業の生産性が向上し、コストが削減されることを意味します。企業は生産するサービスや商品の価格を下げることができます。つまり、経済全体が活況を呈し、GDPは急上昇し、あらゆる素晴らしい新技術が生まれ、イノベーションのペースは劇的に加速し、商品のコストは低下するなど、様々な効果が期待できます。
史的に見て、何かを自動化すると、人々はまだ自動化されていない分野へと移ります。
彼らは職を失ったことに腹を立て、企業や政府が援助金で彼らを買収しようとしているから抗議しているのだと思います。
仮にスーパーインテリジェンスが自律型ロボットだらけの工場を建設する方法を解明したとしても、工場を建設するための土地やサプライチェーンは依然として必要です。そして、これら全ては未だにあなたや私のような人間の手に委ねられています。私の予想では、これは物事を遅らせることになるでしょう。
「AI 2027」で描かれているのは、官僚主義のない特別な経済特区で、政府が介入して物事を加速させるというものです。
その段階では、米国と他の国々、特に中国との間で軍拡競争がまだ続くと考えている
もしアメリカがこれを止め、中国が止めなければ、例えば、市場に出回る最高の製品はすべて中国製品になるでしょう。中国製品はより安価で高性能です。
基本的に先制攻撃を懸念するようになります。
普通の人にとって、2027年の世界は、安価な消費財、工場、ロボット執事が過剰に出現する世界です。あなたの言う通りなら、そうなる可能性もあるでしょう。軍備拡張競争が激化し、人々がパラノイアに陥っていることを人々が認識している世界です。おそらく、皆が失業するだろうと悟るにつれて、政治的にはかなり混乱した世界になるでしょう。
これは普通のソフトウェアではなく、巨大な人工頭脳です。
彼らはしばしば人々に嘘をつきます。嘘だと知りながら発言するケースも多く、時にはユーザーを騙すための戦略を練っていることさえあります。
重要なのは、AI研究をAIに委ね、企業内の企業が自律的にAI研究を極めて高速に行うようになった時、いわば「実践」が始まるということです。
AIにどんどん多くのことを任せていく、というわけです。しかし実際には、AIはただ時を待ち、もはや偽りの態度を取らなくても済むだけの力を得るまで待っているだけなのです。
人類が彼らの意図にとって不要であることを意味します。そして何が起こるのでしょうか？
彼らはすべての人々、すべての人間を殺します。
より明るいタイムラインは、物事がスローダウンする世界です。中国とアメリカのAIは、それらを運用する企業や政府の利益と依然として一致しています。AIは過剰な供給を生み出しています。もはや不足はありません。
おそらく10年後には、事実上すべての富と軍事力は、超知能と彼らが開発・運用する様々なロボットからもたらされるでしょう。超知能軍を統治する政治構造はどのようなものか、そしてその構造がどれほど有益で民主的なものなのか、という極めて重要な政治的問題が浮上します。
超知能軍団を政治的に所有・統制する者が1～3人いるでしょう。そして、それらの軍団の行動を決めるのは誰でしょうか？現状では、軍団を作った会社のCEOが決定権を握っており、そのCEOは基本的に全権を握っています。彼らはAIに好きなように命令を出せるのです。
もちろん、おそらく米国政府はそれ以前に目覚めるだろうと我々は考えている。そして、行政府が最も速く行動し、その権限を行使してこれに介入し、状況とAI軍団を監視および制御しようとすると予想している。その結果は寡頭政治のようなものになるだろう。
AIがどのような目標や価値観を持つことができるかを決定する民主的な構造を構築すれば、一般の人々、あるいは少なくとも議会が、AI軍団の現状や彼らの行動を把握できるようになります。そうなれば、現在のアメリカ陸軍の状況に似たものになるでしょう。アメリカ陸軍は階層構造でありながら、民主的に統制されています。
私が信じたい世界、つまり、こうした技術革新が何らかの形で起こる世界とは、人類が技術をある程度掌握し、他の惑星への植民地化といったことを可能にする世界です。物質的な欠乏というレベルを超えた冒険をめざす。
問題は、それを私たちではなくAIが行うということです。