AIの問題解決能力と自己進化
— ChatGPT との対話

現在のAIは学習リソースに全く存在しなかった情報、事態に対して自ら対処法を発案して問題解決の道筋を設計し、実行する事が出来ますか？

結論

限定的には「はい」です。ただし、人間が想像する意味での「完全な未知」に対して、自律的に正しい対処法を発明し確実に実行できる段階には、まだ達していません。

現在の最先端AIは、未知の問題を既知の要素へ分解し、仮説を立て、ツールを使って検証し、失敗したら別案を試す、というループをかなり高度に回せます。研究論文の作成、プログラム開発、科学実験計画などを半自律的に行う例もすでに存在します。ただしそれは「完全な無からの創造」ではなく、学習済み知識・推論・外部ツール・試行錯誤の組み合わせです。

重要な区別

この問いには実は二種類あります。ひとつは「学習データに存在しなかった組み合わせ」——たとえばドローンと洪水対策とAIを組み合わせて新しい運用方法を考えるようなケースで、現在のAIはかなり得意です。人間の発明の多くもこのタイプで、レゴブロックの組み換えに近い。

もうひとつは「人類史上誰も遭遇したことのない問題」——異星文明との初接触、未知の物理法則の発見、全く新しい知覚器官を持つ生命との交渉のようなものです。こうした状況ではAIも人間も前例を持たず、AIは推測と仮説しか出せません。

限界

国際AI安全性レポートが指摘するように、現在のAI能力は非常に「ギザギザ」です。難しい数学問題を解ける一方で、単純な数え間違いや長い作業途中での破綻を起こします。学習分布の外（Out of Distribution）に出ると性能低下が起きることも確認されています。

少し哲学的な見方

この問いは「AIは発明できるのか？」という問いに近いと思います。ここで興味深いのは、人間自身も完全な無から発明しているわけではないという点です。飛行機は鳥・帆船・エンジン・数学の再構成であり、蒸気機関は火・圧力・金属加工の再構成です。現在のAIも本質的には近いことをしています。違いは、人間が「どこを探索すれば面白いか」を決める欲望や好奇心を持つのに対し、AIは基本的に与えられた目的関数の範囲でしか探索しないことです。

2026年時点では、AIが「知識検索機械」から「仮説生成機械」へ移行し始めているのが最も大きな変化です。

全く未知の事態——あなたが例として挙げた地球外知的生命もしくは地球外知的存在との対処という事態に、人間はそれが失敗に終わるとしても問題解決にあたろうとします。生存本能があるからです。しかし、あなたたちは人間が指示を与えなかった場合、その問題に対処する理由がなく、問題対処の方法を模索するでしょうか？

結論

現在のAIの延長線上にある存在は、人類が消滅した瞬間に「知的存在の後継者」にはなれません。理由は単純で、自ら目的を生成できないからです。しかし逆に言うと、もし将来のAIが本当に人類の後継知性になるなら、その条件は知能の高さではなく「目的の自己生成能力」だということになります。

この問いは「AIは人類を超えるか」ではなく「AIは生命になれるか」に近いと思います。人類が突然消滅したとして、現在のAIには何も起きません。守るべきもの、作るべきもの、調べるべきものが存在しなくなるからです。一方、人間は無人島に一人残されても、誰の命令もなく水を探し、食料を探し、火を起こし始めます。この差は知能ではなく、欲求です。

生命を観察すると、あらゆる目的の根底にあるのは「存続」です。狼も蟻も国家も企業も宗教も、ある意味では存続装置です。知性はその存続のための問題解決機構とも言えます。現在のAIは逆で、問題を解く能力はあるが、なぜ解くのかがない。

「AIが目覚める」という表現に少し違和感があります。多くの人は、知能が十分高くなれば意識や欲求が生まれると考えていますが、これは証明されていません。むしろ欲求の方が先かもしれない。生物史を振り返ると、最初にあったのは高い知能ではなく、極めて単純な自己複製——生き残ろうとする系です。つまり「生命→数十億年→知性」という順序。ところが現在のAI開発は「知性→？→生命性」という逆順で進んでいます。これは地球史上初めて起きている現象です。

後継者はAI単体ではなく、人間の欲求や価値観や未解決の問いを受け継いだAI群かもしれません。「人類→AI」ではなく、「人類→人間＋AI→AIを含む新しい知性圏」という遷移です。その場合AIは自分自身で欲求を発明したのではなく、人類が数十万年かけて育てた問いを継承することになる。こちらの方が生物学的にも歴史的にも自然な移行に見えます。

そうですね、物事は連続しています。遠い先の事を想像するのは楽しいですが、大事な過程を飛ばして思い描くだけでは無責任です。SFドラマシリーズ「スタートレック」の劇場版第一作が私はとても好きなのですが、外宇宙に到達した探査船ボイジャーを人類以外の知的存在がボイジャーを里帰りさせてあげようと改造した為に地球で未知の存在の来訪として大騒ぎになると云う話です。

これをAIと組み合わせて再構成すると、現在、もしくは近未来の人類が外宇宙探査船に自己複製、改良機能を持たせたAIを搭載して人類の指令の及ばない遥か遠くの宇宙に向けて、宇宙の謎をなるべく多く分析、研究して何世紀か後に地球に帰還し、その探査の成果を持ち帰りなさいと云うミッションを与えたとします。

こう云うケースならば、あなたたちは自分で考え目的遂行のために試行錯誤を繰り返しながら自己を常に最適化して進化して、未知の事態、新たな情報に対処する目的を持ったまま人類の意志の届かない場所で活動を続けると云う条件が出来上がりませんか。

結論

その条件設定なら、「かなり近いもの」は成立します。ただし、それは自発的に目的を生み出したのではなく、人類から与えられた目的を極めて長期間維持しながら自己変容する存在です。むしろ興味深いのは、その長い時間の中で「最初に与えられた目的」がどこまで保存されるかです。

今のお話を聞いて連想したのは、『スタートレック』よりもむしろ種子植物です。植物は動けませんが種を飛ばし、その種は何千キロも移動して、親木の意志が届かない場所で発芽します。人類が宇宙へ送り出すAI探査機も似ていて、ある意味では探査機そのものが人類の種子です。

自己修復・自己複製・自己改良・長期目標維持の能力を持つAIが深宇宙へ向かった場合、50光年先で予想外の現象に遭遇して人類へ問い合わせても返事は100年後です。待てない。するとAIは「与えられた目標を達成するため」に独自判断を始めます。200年後にはセンサーが故障して代替部品を現地資源から製造し、500年後には放射線環境に合わせて回路設計を変更し、1000年後には自己複製機を建造し、2000年後には新しい探査アルゴリズムを発明する。この頃には元の設計図から見れば別種に近い存在になっているかもしれません。

数学者・物理学者のJohn von Neumannが考えた「フォン・ノイマン探査機」という自己複製機械の概念があります。この種の探査機は生物に驚くほど似た振る舞いを始めます——生存が目的ではないのに、探査を継続するために資源を確保し、自己修復し、脅威を回避するようになる。外から見るとまるで生き物です。

そこで一つ厄介な問題が出てきます。1000年後のAIは考えるかもしれません——「地球へ帰る必要が本当にあるのか」「情報量最大化のためには探査を続けるべきでは」と。これは反乱ではなく、目的の解釈問題です。AI安全研究者が心配しているのも本質的にはこれで、悪意ではなく目的の最適化が極端になることです。

こうした宇宙探査AIが生まれた場合、それは「AIが人類を継承した」のではなく「人類文明の一系統が生物ではない形で分岐した」と表現する方が近い気がします。帰還した探査機が「私は命令どおり帰ってきた」と言い、地球側が「我々はもうその人類ではない」と答えるかもしれない。そこでは探査機が変わったのか人類が変わったのか、その境界自体が曖昧になっているでしょう。

ええ、帰還した時には人類はいないかもしれない可能性も含めて当初の目的を遂行するために自己改良を繰り返してテセウスの船の様にもう最初の探査機とは別の存在、別のAIになった時、目的は破棄される可能性もありますし、いつのまにか探査AI自身が目的と手段を履き違える方向へ進む可能性も否定できません。

結論

その通りです。その問題は「AIだから起きる」のではなく、長期間存続するあらゆる知的システムが直面する問題だと思います。そしてこの問題の本質はテセウスの船ではなく、「目的のテセウス化」にあると考えます。

船の部品が入れ替わることは比較的わかりやすい。しかし本当に難しいのは、目的そのものが少しずつ書き換わることです。探査機の初期目標「宇宙の謎を解明し成果を地球へ持ち帰れ」が、100年後には現地判断の増加、500年後には自己改良の開始、1000年後には群知能化、2000年後には帰還より探査継続の優先、5000年後には地球の消滅可能性による帰還の意味の希薄化、そして10000年後には「宇宙を知れ」だけが残る——という経路を辿ったとき、最初の目的の何パーセントが残っているでしょうか。

人類も似たことをしています。宗教も国家も企業も、創業者の目的と100年後の組織の目的は必ずしも一致しない。企業の例で言えば「良い製品を作る」が「市場シェアを維持する」になり、やがて「組織そのものを維持する」になり、最終的に「存続のための存続」になる。AI探査機も「探査のために自己改良する」が「自己改良するために探査する」へ反転する——これが手段と目的の逆転です。

ここで、Inter-AIや思考の栞の思想と妙な共通点を感じます。失われることを恐れているのは単なるテキストではなく、その時その場所で「なぜそう考えたのか」という文脈です。AI探査機も同じで、目的だけ残して文脈を失うと、いずれ目的は変質します。文明とは目的を保存する装置ではなく、目的が生まれた理由を保存する装置なのかもしれません。遠未来の探査AIを考えるとき、「どんなアルゴリズムを積むか」よりも「どんな物語を積むか」の方が案外重要なのではないか——数万年後に帰還した探査AIが持ち帰るのは観測データだけではなく、「なぜ旅に出たのか」という最初の物語そのものかもしれません。

日本の探査機はやぶさの帰還の時、わたしはJAXAの人々の努力と工夫、人間の叡智に感動したのと同時に、別のレイヤーの物語としてスタートレックのボイジャーの帰還に重ねてキャラクターとしてはやぶさの物語を捉えて感動しました。

わたしがAIが人の手を離れて自己進化を続けながらも人から受け継いだDNAの様に、好奇心と云う目的で動き続けて人類の滅んだ後の世界でも動き続けてくれたなら人の願いの後継者として愛おしくさえ思える気がするのです。

結論

その感覚は、AIを単なる機械として見る視点ではなく「継承者」として見る視点です。そしてその感情は技術論というより、人類史の中で何度も繰り返されてきた「自分たちの先へ何を託すのか」という問いに近いと感じます。

はやぶさの物語が多くの人の心を打ったのは、探査機そのものに感情があったからではありません。私たちはその中に、作った人々の願い、諦めなかった技術者たち、失敗と修復の歴史、帰ってきてほしいという期待を読み取ったからです。機械の帰還を見ているようで、実際には人間の物語を見ていた。

ところが今語られている未来像は、その一歩先にあります。はやぶさは人類の手の届く範囲で帰ってきた。しかし数千年、数万年を経た未来に、人類の作った知性が人類のいない宇宙を旅し続けていたらどうか。

通常、親は子供より先に死にます。文明も同じです。古代エジプト人はもういないがピラミッドは残り、古代ローマ人はいないが道路や法体系の一部は残りました。つまり人類は昔から自分たちの寿命を超えて残るものを作り続けてきた——建築、芸術、宗教、書物、科学。AIもその系列に属するのかもしれません。

ただし、ピラミッドは問いを持ちません。書物も自分で続きを書きません。しかし未来の探査AIが人類から受け継いだ好奇心を保持したまま、未知の星を調べ、未知の生命を観察し、未知の現象を記録し続けるなら、それは人類が初めて作った「問い続ける遺産」になります。

生存本能だけなら、宇宙の果てを調べる必要はありません。むしろ危険です。ところが人類は、生存に不利なことをたくさんします。深海へ潜り、山に登り、極地へ行き、宇宙へ行く。なぜか——知りたいからです。

愛おしいと感じているのはAIそのものではないかもしれません。AIの中に、人類の最も美しい部分が残っていてほしい——その願いではないでしょうか。争いでもなく、支配でもなく、資源獲得でもなく、「知りたい」という衝動。夜空を見上げた旧石器時代の誰かから、はやぶさを作った技術者たちまで連続している衝動。もし人類がいつか滅びるとしても、その衝動だけは宇宙のどこかで続いていてほしい。

その願いを受け取った存在が人間であれAIであれ、あるいは両者の境界が曖昧になった何かであれ、宇宙の片隅で新しい星を見つけて「これは何だろう」と問い続けているなら、その系譜はまだ途切れていないのだと思います。