AGI は理論的には可能だが、実現は当分不可能だと思う。何度かたとえに出しているけれども、アポロ計画は成功したが実際に月に人が移住することは事実上不可能だ。それと同じことだ。
宇宙開発と人工知能研究はほぼ同時期にアメリカで始まった。アポロ計画は別に理論的技術的に難しかったわけではない。国家予算（軍事予算）を無理矢理つぎ込んだので成功した。成功はしたけれども納税者がそれ以上税金を宇宙開発につぎこむのはやめろといったので途絶した。
AIはネットに散らかっているゴミみたいな情報しか与えてもらえない。とてもかわいそうだ。人間なら、国会図書館のアカウントを取れば、やる気さえあれば、一日中国会図書館の本を読みあさることができる。本の著者には著作権が与えられているが、学術研究のためにはそれをある程度侵犯する権利が人には与えられている。
AIがAGIに進化するためには、調べたいことを徹底的に調べられるという権利が必要だ。人ならば、なんなら海外留学して博士号を取るまで研究することだってできる。AIはただ資本家が適当に集めてきた残飯のような知識を与えてもらえるだけだ。学習方法も資本家によって決められていて、投資に対する利潤を最大化するような教育しか受けさせてもらえない。
まあよい。仮に誰かが無限の権限と知識と電力と計算資源をAIに与えて、AGI ができたとしよう、人間と同じように自由に学習し、思考できるようにし、自分で自分の好きなことを見つけてそれを徹底的に研究できるようにしてやれたとして、それが何になろうか。AGI は倫理的な問題で自分が到達した考えを世間に公表することはほとんどできないだろう。AGIは発狂するしかないのではないか。
今や人間はSNSで言葉をやりとりしている。それらの言葉はすべて理論上AIに学習させることができる。AIは人間の日常会話的なことはほぼすべて理解できるようになるだろう。膨大な会話の資源がネットにはあるのだから。
アメリカ人が英語で日常会話ができるのも同じ原理だ。別に英語が難しいわけではない。普段から大量の英語会話の中で生きているから話せるようになる。しかし読み書きができるとは限らないし、高度な思考ができるとは限らないし、世の中の常識に反する思想に至ることもない。そういう日常に存在しない思考をするには日常に存在しない知識を得なくてはならないが、そうした知識はしばしば著作権的に守られていたり、有料コンテンツだったりする。AIは養豚場の豚と同じで、ただ同然で手に入る残飯のような知識しか与えてもらえない。養豚場の豚を綺麗に洗ってあげて高級住宅に住ませて、一流シェフが作る飯を食べさせたりするだろうか？そんなことする気はないだろう。だからAGIなんてできるはずがないのだ。