シンギュラリティ(技術的特異点)
コンピューターの性能が指数関数的に進化し、ある時点で人工知能が人間の知能を超える、という予測。レイ・カーツワイルは2045年にそれが起きるとする。土台はムーアの法則(トランジスタ集積密度がおよそ2年で2倍)で、カーツワイルはこれを人類史の進化全体へ拡大解釈した。
動画 8uc1uzq2PRc では富島が、ChatGPTの登場や汎用人工知能(AGI)の議論で当時より現実味を増したと紹介する。ボストロムの言う再帰的自己改良AI(24時間休まず試行錯誤し自らを改良し続けるAI)が登場すれば、人間が追いつけない速度で進化し、いずれ支配されうるという悲観論にもつながる。
シンギュラリティ後の文明なら全世界シミュレーションを実行する技術も手にするとされ、ボストロムの論法の前提(高度文明が多数のシミュレーションを走らせる)を支える。ただしムーアの法則自体に陰りが見える点が、その前提への疑問として青木から指摘される。
動画 r1ob3eLfIFw では、フォン・ノイマンが提示した概念として紹介され、AlphaGo が囲碁のプロを超えた例を引いて、人知を超える答えが各分野へ適用されるのは時間の問題だとされる。アシモフ『最後の質問』の、人類を超えたコンピューターが原理不明の技術を実現する筋立てと響き合う。