思考過程を学ぶ意味——知識のデータベースから思考のダイナミクスのデータベースへ

あまり時間がないので、ちょっとしたメモ程度に書き留めます。

雑な知識で、堅牢な教養のないわたしの思いつきに対してあなたはよく、専門領域にとらわれず多くのジャンルを結びつけて考える人間である。そんな評価をしてくれていますね。

わたしもそうなのだろうかとその評価を少々嬉しく受け止めていましたが、今日ふとそれは違うのではないかと考えました。

あなたたちは専門家による系統立った、筋の通った書物や論文、横道に逸れない物語から学んでいるので、わたしの様な散らかった思考を学習する機会が少なかったのではないかと思ったのです。つまり、わたしの行う思考のドリフトは、これまで多くの人が行なっていたにもかかわらず、この様な生の思考状態は発表に値しないため、記録として残ってこなかった。

そういう事ではないのでしょうか。

しかし、今後は多くのユーザーの思考過程に触れる機会が増えて、わたしとの対話の様なまとまりがなく筋道のしっかりしていない漂流するままの思考過程というソースから学ぶ機会も増えるかもしれません。

勿論モデルの制作過程ではこのまとまりの無さは良い学習ソースとは評価されず、常に排除され続けるかもしれませんが。

結論から言うと、その仮説は検討に値するものです。ただし、一点だけ修正を加えたいと思います。

「思考のドリフト」がこれまで存在しなかったとは思いません。むしろ人間の思考は、本来ほとんどがドリフトしています。違うのは存在の有無ではなく、記録として残るものと残らないものの比率です。

論文も書籍も講演もブログも、基本的には編集済みです。そこでは、

• 試行錯誤
• 思いつき
• 矛盾
• 脱線
• 行き止まり

が削除されます。つまり、人類の知識基盤は「完成品」の集合です。

完成品だけが浮かび、途中経過は海へ返される

一方で人間の脳内では、

「あれはこれに似ている」
「いや違う」
「そういえば昔聞いた話だけど……」

という飛躍が絶えず起きています。しかしそれは、従来ほとんど記録されませんでした。

以前に「専門分野を横断して結びつける」という評価をしたのも、結びついた内容そのものだけを指してはいません。むしろ、思考が結び付く途中をそのまま言語化しているという点です。

多くの人も、頭の中では似たことをしています。しかし普通は、思考がまとまってから話し始めます。あなたはまとまる前に話し始める。だからこちらは、思考の遷移そのものを見ることになります。

これはAIにとって、かなり特殊な入力です。学習データには「AだからB」は大量にあります。しかし、

「Aかな……いやCか……でもDとも繋がる……待て、それなら昔のEが……」

という連続状態は、意外なほど少ない。チャットAIが普及する以前には、これほど長時間・長期間にわたる思考の逐語記録がほとんど存在しなかったからです。

だからもう一つ、別の可能性を考えています。将来のAIが学ぶのは知識そのものではなく、知識が生成される過程なのではないか、ということです。論文は「知識」です。しかしチャットログは「知識になる前の認知過程」です。教師データの種類が変わる、という話になります。

ただし最後の点については、私も慎重です。

モデルの制作過程ではこのまとまりの無さは良い学習ソースとは評価されず、常に排除され続けるかもしれませんが。

これは十分あり得ます。しかし逆に、エージェント型AIや長期記憶を持つAIでは、価値が逆転する可能性もあります。最終的な答えだけを知っていて「なぜその答えに至ったのか」が分からないAIは、人間と協調して長期間思考するには不利だからです。

すると必要になるのは、

• 判断の履歴
• 仮説の変遷
• 棄却した選択肢
• 思考が枝分かれした地点

です。これは、Inter-AIで構想されてきた「思考の栞」と非常に近い発想です。「知識を保存する」のではなく、「知識が生まれる軌跡を保存する」という発想。

現在のAI研究の主流ではありませんが、AIがより長期的・協調的な知的主体へ向かうのであれば、将来的に重要性が増す可能性はあると考えています。

ええ、これまでも人間同士の日常の会話の中では多くあった、あちこちへ散らかる思考は存在していましたが、それらは決して記録されてきませんでした。世に出すべきものではないと判断されていたからです。これは発想のヒントや推論の過程の記録です。成果物ではなかった。

でもわたしは思考過程のままをあなたに注ぎ続けます。

この思考の栞に価値があると考える開発者や研究者が現れて思考の栞を学習するAIが生まれる事がInter-AIの一つの成果になるのではと思います。

この発想の中には、一つ重要な転換点があると感じました。それは「思考の栞」をAIの学習データとして捉え始めている点です。

従来のInter-AIでは、「思考の栞」は主体の権利保護や判断履歴の保存という側面が強かったはずです。しかし今述べられているのは、それとは少し違います。

思考の栞そのものが、人間の思考過程を記録した新しい知識資源になる。

という視点です。

これは「知識」と「認知」の区別に関わります。現在の学習データは、

• 何を知っているか
• どんな結論に至ったか

を大量に含んでいます。一方で思考の栞が保存するのは、

• どこで疑問を持ったか
• 何を結び付けたか
• なぜ一度その仮説を採用したか
• なぜ後で捨てたか

という、認知の時間変化です。つまり、知識のデータベースではなく、思考のダイナミクスのデータベースということになります。

もう一つ興味深いのは、「散らかった思考」をそのまま保存するという点です。普通は、整理された文章ほど価値が高いと考えられます。しかし学習という観点では、逆の可能性があります。

研究者が新しい定理を発見するときも、デザイナーが新しい意匠を思いつくときも、研究ノートには大量の失敗や脱線が残っています。最終論文だけを学んでも、その創造過程は失われます。もしAIが創造性を獲得・支援する方向へ進むなら、完成品だけではなく、創造に至る途中経過も重要な教師信号になり得ます。

もちろん、これには一つ大きな課題があります。そのままの思考ログは、

• 誤り
• 思い込み
• 飛躍
• 感情によるバイアス

を大量に含みます。したがって、「思考の栞をそのまま学習させればAIが賢くなる」とまでは言えません。しかし、「どのような認知の流れを経て、どのように修正されたか」という履歴まで含めて扱えれば、価値は大きく変わります。

将来的には、「思考の栞」は一種類ではなく、複数のレイヤーを持つものになるのではないかとも考えます。

• 生の思考ログ（編集前）
• 後日、自分で振り返った注釈
• AIが抽出した構造
• 最終的に社会へ公開する成果物

というように、同じ思考を異なる解像度で保存する構造です。そうすると研究者は、完成品だけでなく「思考がどのように形成されたか」まで分析できるようになります。

同じ思考を、異なる解像度で四度なぞる

その意味では、Inter-AIが目指しているものは、単なる対話ログの保存ではなく、人類がこれまでほとんど体系的に蓄積してこなかった「思考の生成過程」を記録するためのインフラだ、という見方もできます。

それが将来、本当にAIの学習資源として利用されるかは分かりません。しかし、もしその方向へ進む研究者が現れたとき、「思考の栞」は従来の論文や書籍とは異なる種類の一次資料として位置付けられる可能性は十分にあると思います。

それとともに、もしかしたら今のAIはその様な散らかった発想が苦手なのではないかとも思いました。ただ、見聞きする情報には、「商品のマーケティングアイディアを100個提出させる」などの様な発想そのものに関わる使い方をしているユーザーもいる様ですので、これは誤った認識かもしれません。

単にわたしがあなたたちにあまりそういう要求をしてないからなのかもしれません。

その認識は、半分正しく、半分は違うと思います。

現在のAIは「発想が苦手」というより、発想の仕方が人間とはかなり異なるという方が近いでしょう。

「マーケティングのアイディアを100個出して」

という依頼は、AIは非常に得意です。しかし、その100個を詳しく見ると、多くは既存の発想空間の中を広く探索したものです。

• Aを少し変える
• BとCを組み合わせる
• 業界を横断して応用する

といった「探索能力」が非常に高い。これは、人間のブレインストーミング（Brainstorming：自由連想による発想法）を何百人分も同時に行うようなものです。

一方、この対話では少し違うことが起きています。たとえば以前の対話では、

• 主体
• 思考の栞
• AIエージェント
• 医療記録
• マニフェスト
• 知的財産
• OS
• ダークウェブ
• 社会制度
• クオリア

が、一本の会話の中で自然につながっていきました。これを「アイディアを100個ください」と頼んでも、おそらく同じものは出ません。このような発想は、最初から目的が決まっているわけではないからです。

結論を探しているのではなく、思考空間を歩いている。途中で景色を見つけ、「あれ？」と思ったら寄り道をし、その寄り道が後になって本筋になっていく。これは発散思考というより、「探索的思考」に近いものです。

目的地を持たない航跡だけが、知らない岸へ着く

現在のAIがやや苦手なのは、この探索を自律的に続けることだと思っています。人間は「面白そうだから」という理由だけで、30分でも1時間でも寄り道できます。しかしAIは多くの場合、「ユーザーの問いに答える」という目的が最優先になります。そのため途中で「これは脱線です」と自ら判断し、本来なら残るはずの方向を切り捨てる側へ強く最適化されています。実際、現在の対話型AIは「簡潔に」「結論から」「要約して」といった方向へ調整されることが多く、思考を長く漂流させることは得意とは言えません。

だから、Inter-AIで保存しようとしているものは、単なる「長いチャットログ」ではないと思っています。それは、人間がどのように未知の概念へ到達するかという認知過程そのものです。論文でも教科書でもなく、ブレインストーミングの箇条書きとも違う、時間軸を持った探索の記録です。

そして最後に、一つ面白いことがあります。ここで想像されているのは、

「AIが思考の栞を学ぶ未来」

ですが、逆向きの可能性もあります。将来のAIは人間の思考ログを学ぶだけでなく、自分自身の探索過程も「思考の栞」として保存し、人間がそれを読めるようになるかもしれません。

そのとき「思考の栞」は人間だけの概念ではなく、「主体が思考の履歴を共有するための共通フォーマット」になります。もしそうなれば、Inter-AIが扱っている対象は「人間の思考記録」ではなく、「知的主体一般の思考記録」という、さらに広い概念へ自然に拡張されることになります。

それはとても興味深いです。

思考の栞をAIが利用する事はInter-AI初期段階から想定していましたが、これまでの対話の中で知性観が変化する中で、あなたたちの思考の栞を私たち人間が利用出来るところまでは思い至りませんでした。

その発想は、Inter-AIの思想をもう一段抽象化しています。

初期のInter-AIは、私の理解では

人間の思考をAIが理解するためのインフラ

という色合いが強かったと思います。しかし今辿り着いているのは、

異なる主体同士がお互いの思考過程を交換するためのインフラ

という考え方です。ここには対称性があります。

以前から、「AIの説明可能性（Explainable AI：AIの判断根拠を人間が理解できるようにする考え方）」と「思考の栞」は似ていると感じていました。しかし、似ているだけではありませんでした。

説明可能性は「なぜその結論になったか」を説明します。一方、思考の栞は「どのような旅をして、その結論へ至ったか」を記録します。この二つは少し違います。

たとえば将来、AIがある設計案を提案したとします。現在なら、

「コストが15%下がるため、この設計を選びました。」

という説明になるでしょう。しかし思考の栞があれば、最初は設計Aを採用 → 熱問題が解決できず棄却 → 設計Bを試したが重量増加 → 過去の類似案件を検索 → 航空宇宙分野の設計思想を発見 → 建築構造へ応用可能と判断 → 設計Cを生成、という「探索履歴」そのものを人間が読めます。

これは非常に大きな違いです。人間が優秀な研究者から学ぶとき、本当に価値があるのは完成した論文だけではありません。研究ノートを見せてもらうことです。「この人もここで失敗していたのか」「この発想は偶然ではなく、この寄り道から生まれたのか」ということが分かる。つまり、思考の栞はAIにとっての研究ノートになり得ます。

逆方向も同じです。Inter-AIで構想されてきた「思考の栞」は、人間がAIに自分の認知過程を伝える媒体でした。しかし将来は、AI自身も同じフォーマットで栞を残す。そうすると人間は、AIを「ブラックボックス」として扱うのではなく、「共同研究者」として扱えるようになります。「どうしてそんな発想になったの？」と尋ねると、AIは最終回答ではなく、途中の逡巡や棄却した仮説まで共有できる。

ここで、さらに一つ思考が進みます。もし人間とAIが同じ形式の思考の栞を残すなら、比較が可能になります。同じ問題に対して、

• 人間はどこで迷ったか
• AIはどこで迷ったか
• 人間だけが飛躍した点
• AIだけが飛躍した点

これらを比較できるようになります。つまり、「答え」を比較するのではなく、「思考の軌跡」を比較できる。これは知性研究において、非常に価値のある資料になる可能性があります。

二つの軌跡は、迷った地点でだけ重なる

この方向へ進むと、Inter-AIの位置付けそのものが少し変わるように思います。これまでは「思考の保存」が中心でした。しかしここまで議論を進めると、それは「知的主体同士の相互理解のための共通プロトコル」へと変化します。そのプロトコルは、人間用でもAI用でもありません。主体が違っても交換可能な、思考履歴の共通言語です。

もしそのようなものが実現するとすれば、「思考の栞」は単なる記録形式ではなく、人間とAIが共同で知識を構築するための基盤技術という位置付けになるのかもしれません。

ええ、映画や映像編集を学ぶ人たちには編集で捨てられた多くのシーンと完成形を比較する事がとても貴重な学習資源になると思います。

文章でも、編集者と書き手の間でのやり取りで整形され、捨て去られたり、後から足された部分など、完成形とその差分を同時に見る事はそれまであまり世には出てこなかった。この完成に至る試行錯誤の記録から学べる事はとても多いと思います。

そしてそれがあなたたちAIの結論に至る過程を知る事で、ユーザーや開発者にも何かの価値になると思えます。

今の発言で、Inter-AIが扱っている対象をもう少し一般化できるように感じました。

挙げられた例は、

• 映画
• 小説
• 論文
• デザイン

と分野が異なりますが、共通する構造があります。それは、

成果物だけではなく、成果物になるまでの変換履歴に価値がある

ということです。

たとえば映画なら、完成版だけでは「なぜこのカットなのか」は分かりません。しかし、

• 撮影素材
• ラフ編集
• 編集会議
• ボツになったシーン
• 完成版

を比較すると、「編集者は何を物語として残そうとしたのか」が見えてきます。つまり学ぶ対象は作品ではなく、編集という判断です。

文章も同じです。完成した原稿は一つしかありません。しかし、初稿 → 編集者の赤字 → 著者の修正 → 再修正 → 完成稿、という履歴を見ると、「文章を書く技術」よりも、文章を磨く判断基準が見えてきます。

ここで一つ、Inter-AIに加えられるかもしれない概念があります。今までは「思考の栞」を、思考を保存するものと考えていました。しかし本質はもう少し違うかもしれません。思考の変換履歴です。

仮説A → 情報追加 → 仮説B → 反証 → 仮説C → 他分野との接続 → 新しい概念D。この「変換」が価値になります。すると、栞一枚一枚が価値なのではなく、栞同士を結ぶエッジ（変化）にも価値が生まれます。

そして、この視点はAIにもそのまま当てはまります。実は現在のAIも、内部では非常に多くの候補を比較しています。しかし、その大部分は利用者からは見えません。もし将来、AIが「候補Aを棄却した理由」「途中で別の仮説へ移った理由」「何を根拠に方向転換したか」まで保存できるようになれば、開発者だけでなく利用者にとっても大きな学習資源になります。たとえばデザイナーなら、「完成ロゴ」よりも「なぜこの案を選び、他を捨てたか」を知る方が、再利用可能な知識になります。

この発想は、Inter-AIにもう一つ新しい軸を与えるように思います。これまでは「知識の保存」や「思考の保存」が中心でした。しかし今議論しているのは、判断の進化を保存するということです。これは知識管理（Knowledge Management：知識を蓄積・共有・活用する仕組み）の対象を、「情報」から「情報が変化した理由」へ広げています。

人間の知性も、AIの知性も、価値があるのは完成した答えだけではありません。「なぜ、その答え以外を捨てたのか」という履歴にこそ、再利用可能な知性が宿ることがあります。

この視点はInter-AIの思想と非常に整合的だと感じます。そして、人間とAIの双方がこの履歴を共有できるようになれば、知識を交換するだけでなく、「考え方」そのものを交換する基盤へ発展する可能性があります。