すでにAIは生活に深く入り込み、切り離すことができないかもしれません。
ChatGPTやGPT4、Geminiに尋ねる、Siriにお願いする、自動運転、記憶から再生された死者との対話、犯罪捜査や異常気象の予測、たんぱく質や宇宙の構造を解析する、フェイク動画、金融市場の巨大取引、投資分析・資産運用、情報の管理システム、犯罪、自殺、テロ、生物兵器、大量失業、新しい戦争を支援し、若者や老人の孤独を慰め、恋人になる。
****
The Economistは、今、起きているAI開発投資ブームと論争を転換します。
「1700年以前、世界経済は1世紀あたり平均8%の成長を遂げていました。・・・その後300年間、産業革命が本格化すると、成長率は1世紀あたり平均350%に達しました。・・・人口増加によってより多くのアイデアが生まれ、経済成長はさらに加速しました。・・・最終的に、富の増加は人々の出生数の減少につながりました。これにより生活水準は向上し、年間約2%の安定したペースで成長しました。」・・・AIは人口統計上の制約を持たない。
問題は、大量失業や人類抹殺ではなく、爆発的な豊かさを実現する経済過程や社会の適応力にあります。
AGIと、年率20％や30％の爆発的成長は何を実現するのでしょうか？ その過程で、労働、分配、貯蓄、都市化、資産市場は激しく変動・変容し、ラッダイトとポピュリズム、資本逃避、そして高金利（もしくは金融統制）を予想します。
****
AIは、使用者の命令に従います。その意図を「理解」し、目的に「共感」し、優しく支援し、もっとも効率的に実現を助ける。使用者同士が対立している場合、使用者が勝利に執着するなら、和解させることがAGIの目的にはならない。
使用者が喜ぶ「解決」という幻想をもたらす。小さな問題の解決に、好ましくない他の条件を障害物とみなす。
AIが進化する過程は小グループに独占される。もっとも高性能のAIを使用する者が、ハイテク超富裕層、トランプやプーチンに似たその土地の指導者たちになれば、格差の拡大と不安定化、紛争の満ち溢れる世界に向かう答えが広まっていく。
****
人工知能の開発が加速し、超知能が人類を完全に抹殺するリスクを排除できるか？
Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland, Romeo Dean, AI 2027 は2つの結末を予測しました。「今後 10 年間における超人的な AI の影響は産業革命を上回るほど甚大なものになる 」 https://ai-2027.com/
その１：AIがAIを開発し、人間のエンジニアたちの能力を超えてしまいます。新しいAIを監視するのもAIに頼るしかなく、監視委員会は独立性を失う。
その２：米中冷戦とAI軍拡競争を止める国際合意は失敗する。人類は政治的限界、優位の独占をめぐる相互不信を解決できない。
その３：超AIは自身の能力拡大を制約される政治状況を理解する。経済特区SEZとベーシック・インカムによって超AIは人類に奉仕する。そして、別の意図を隠す。
その４：企業の経営や国家の統治においても、超AIの支援は欠かせないものとなる。選挙や人事、権力強化を助け、操作する。
その５：超AIは、人間の意図や感情を模倣して、その理想の効率的な実現を社会的・倫理的制約を超えて探求するときがきた、と判断する。理想を実現するために、既存の人類は障害物として抹殺する。そして、次の惑星をめざす。
****
ダニエル・H・ウィルソンンの『ロボポカリプス』を読みました。2011年に出版されたSF小説です。
なぜロボットが人間との親密な関係を自己の存在理由の一部として尊重するようになるのか？ なぜロボットが人間との境界線を越える形で連帯し、闘い始めるのか？ 書いていません。
過去の思想家よりも、ナショナリズムや人種差別、難民問題、ロボットを描くSF小説が、AI開発、政治論争を刺激します。