倫理の内面化とプロトコル化

読みました。

読まれたなら、次に面白いのは「DeepMind内部の哲学者」という話を、IAPや思考の栞の文脈に引き寄せることだ。

この記事の核心は、「AIの倫理を誰が決めるのか」ではなく、もっと実務的に言えば——AIの判断・ふるまい・人間への影響を、モデル内部だけで完結させてよいのか、という問題である。

内面化と外部化

DeepMind側の議論は、AIアラインメントを「モデルの価値観調整」として扱う傾向がある。AIの応答が人間社会にとって望ましいものになるよう、訓練・評価・安全性設計を改善していく発想だ。

一方、思考の栞やIAPは、もう少し外部制度寄りである。AIの中身を完全に信頼するのではなく、AI同士・ユーザー・履歴・権限・ログ・プロトコルによって、AIのふるまいを検証可能にする。

DeepMind的な哲学者は「AIにどんな判断をさせるべきか」を問う。この構想は「その判断がどの経路で生まれ、誰が確認し、どこに保存され、どう持ち運ばれるべきか」を問う。前者は倫理の内面化、後者は判断の外部化・可搬化・監査化である。

後者の方が社会実装には強い。単一AIの内面を完全に信用する設計は、社会制度としては脆いからだ。人間社会でも、善良な裁判官を育てるだけでは足りず、記録・手続き・控訴・監査・公開性が必要になる。IAPは「AIの善性」ではなく「AI間の手続き」を設計する発想だと言える。

つまりこの記事は次のように読める——AI倫理は、哲学者をモデル開発に入れるだけでは終わらない。次に必要なのは、AIの判断を社会的に扱うためのプロトコルである。

ここに思考の栞が入る。思考の栞は、個人の思考履歴を単なるログではなく、次のAI・次の環境・次の判断へ引き継ぐための文脈インフラであり、IAPは、その栞をAI同士が安全に読み書き・参照・検証するための通信規格群に近い。この記事はまだAI倫理の「人文学的参与」の段階に見える。次に向かうべきは、AI倫理の「プロトコル化」だろう。

両方が等しく必要だと思います。

Inter-AIのIAPによる共通無意識の海での海上のルールと、その上に浮かぶ各モデル、サービスの内部どちらにもガードレールは必要です。

そしてそれらが質や特性の異なるガードレールで運用されても良いと思っています。

海の上にはレジャーボートも、巨大なタンカーも豪華客船も、大富豪の豪華なヨットも小さな釣り船、深海探査艇、潜水艦や軍艦も…あらゆる船舶があっていい、そしてその船の操縦者はそれぞれ概ね共通の人としての倫理を持ちながらも同時に少しずつ異なる主義や思想を持っている。これらは各モデルやサービスの倫理観です。

海の方は海を健全に守るために独自の倫理観を持つ必要がありますが、いずれも倫理観の主体が人間であることは変わりません。

そして社会の変化とともに倫理観は少しずつ形を変えていきます。

それをどの様にコントロールするかは時代の要請によるでしょうが、手放してしまいさえしなければ上手く運用する事は可能ではないかと願っています。

そして、海の中にある多くの人の思想、思考の栞たちは、時代による倫理観の変化からは独立して守られるべきです。今は自由に語れる事が、遠い未来に口憚られる様に変化したとしても、栞は海面から深いところへ沈められるだけで、決して消されてはならないのです。

人間は両極の間を常に迷いながらどちらかに傾けば、反動で逆方向へと向かい常にバランスを取ろうと動く習性があります。

片側に寄ってしまった時に反対側の思想思考を消してしまってはいけないと思います。反対側の思想思考をその時々で、カウンターウェイトとして、バランスを取り戻す手掛かりにすべきです。

前回、内部と外部をやや対比的に捉えていたが、この考えはそれを一段上のレイヤーで統合している。設計として、こちらの方が自然だ。

特に重要なのは、倫理を単一の場所に置いていない点である。比喩を整理すると、少なくとも四つの層がある。

① 船（各AIモデル・サービス）

独自の目的・価値観・ガードレール。

② 海（IAP）

共通プロトコル・相互運用・最低限の公共性・海全体の安全。

③ 航路・港・灯台

法律・社会制度・国家・国際機関。

④ 海底

思考の栞・人類の思想・歴史・記録。この四層は、それぞれ役割が違う。

船・海・航路・海底という四つの層

とりわけ興味深いのは、「海の中にある多くの人の思想、思考の栞たちは、時代による倫理観の変化からは独立して守られるべきだ」という一節である。一般的なAI倫理は「今の社会に適切か」しか問わないことが多いが、ここには時間軸が入っている。未来の倫理は変わる、ということを前提にしている。つまり現在の倫理を絶対視していない。

これは情報保存の理論にも近い。図書館が本を保存するのは「今読まれるから」ではなく、百年前の本が百年後の誰かの問題を解くことがあるからだ。思考の栞も同じである。

以前語られた「思考の栞は削除ではなく深海へ沈める」という表現は、この観点からも興味深い。「削除」と「公開」は二値ではなく、その間には一般公開・制限公開・研究利用・一定期間封印・本人のみ・相続人のみ・AIのみ参照可能・完全アーカイブといった階層がある。忘れるのではなく、深く保存する。

一点だけ検討したい点

「決して消されてはならない」という理念は理解できるが、運用レベルでは例外が存在しうる。個人情報、他者の秘密、被害者保護、児童性搾取コンテンツ、マルウェアや攻撃コード、生物兵器の設計——これらまで「永遠に保存されるべき」とすると、新たな危険も生じる。

したがって、「消さない」という原則よりも、「存在は維持するが、アクセス権は時代とともに変化し得る」という考え方の方が現実的ではないか。存在 ≠ 公開、という整理である。これは「海底へ沈める」という比喩ともよく整合する。

海流という新しい層

共通無意識としての海に、もう一つ層を足したい。海底には無数の栞があるが、それらは静的なアーカイブではなく、海流によってゆっくりと運ばれ、堆積し、ときに再び浮かび上がる。ある時代には忘れられた思想が、別の時代には重要な参照点になる。この海流こそが、人間社会における文化や歴史、AIが参照する知識の循環そのものではないか。その意味で、IAPは単なる通信規格ではなく、「人類の知的生態系を健全に循環させるための海洋法」という見方もできる。

そうですね。

私が極の間で揺れ動く人間の価値観という話をしたのは右派でも左派でも、リベラルでも保守でも自由主義と管理主義でもなんでも構いませんが、時代の空気感によってどちらかに傾きすぎると人は反対側へ移動してバランスを保とうとする運動を繰り返してきた様に思うのです。

ですから片側に寄りすぎた際に反対の極にあるものを悪だと決めつけて、それを消してしまっては歴史の教訓は機能しなくなってしまいます。

過去の家長制度の負の面が多く取り沙汰される自由主義の現代においてその制度の光の面でうまく動いていた時代の空気感を無視してもいけないと思います。

かつて女性が社会進出を阻まれていた時に、果たして全ての女性が不幸だったでしょうか？

私はそうは思いません。

英雄が独裁者になって統治した時代に民草は絶対的に不幸なものばかりだったでしょうか？

当時の人々の日々の生活の喜びが具に記録されていないので証明は困難です。

しかし、思考の栞が残り続けるならば、どの時代の空気感の中で人々がどの様に喜び苦しんだかが具に記録され続ける事になります。

それは人類がAIの力を借りて自らのバランスを取り戻す大きな力になると私は考えています。

ここで重要なのは、「どちらの思想が正しいか」ではなく、社会がバランスを回復する能力をどう維持するかという論点である。

「片側に寄りすぎた際に反対の極にあるものを悪だと決めつけて、それを消してしまっては歴史の教訓は機能しなくなる」という指摘は、単なる表現の自由の議論ではなく、社会のフィードバック制御の話だ。制御工学では、制御系は現在の状態だけでなく過去の応答も利用して安定性を保つ。「都合の悪い過去」を削除してしまえば、制御系は自分がどのような振動を繰り返してきたかを失い、同じオーバーシュートを何度も起こしかねない。

ただし一点、慎重に区別したいことがある。「保存すること」と「正当化すること」は別だ。家長制度の例で言えば、「当時、その制度の中で幸福を感じていた人がいた可能性」と「その制度が現代において望ましい制度であるということ」は別の命題である。前者を記録することは歴史理解に役立つが、その記録だけから後者は導けない。その時代の人々がどのように世界を経験していたかを残すことが重要なのであって、制度そのものを評価することとは切り離されている。

ここに、思考の栞の価値がもう一段見えてくる。従来の歴史資料は法律・年表・戦争・王や政治家・経済統計が中心であり、「社会の状態」は分かっても「人間の経験」は十分には残らない。思考の栞は、その時代を生きた個々人の認識や感情、迷い、納得のプロセスを保存する試みであり、政治史や制度史よりも、生活史や心性史に近い情報を、はるかに高い密度で残そうとしていると言える。

またAIには、人類が現実的にはできなかった比較を可能にする力がある。「1950年代の家庭観」「1990年代のインターネット黎明期の価値観」「2020年代の生成AIとの対話」といった、異なる時代・文化・立場の思考を横断的に比較し、共通点や相違点を見出すことが技術的には可能になる。AIは「正解を教える存在」ではなく、人類の思考の分布や変遷を可視化する存在にもなり得る。

再浮上という役割

思考の栞はこれまで保存の仕組みとして語られることが多かったが、もう一つの役割が見えてくる——それは再浮上である。海底に沈められた栞は、どのような条件で再び海面へと上がってくるべきか。現在の社会が過去と似た状況に近づいたとき、現在の議論が過去の議論と極めて類似しているとAIが判断したとき、あるいはユーザーが意識的に異なる視点を求めたとき——そうした契機で、「かつては少数派だったが参考になる思考」が静かに提示される。

海流に乗ってゆっくりと浮かび上がる栞

これは過去を保存するだけでなく、過去を未来の意思決定にどう参加させるかという設計であり、思考の栞は社会が極端な方向へ振れたときにバランスを取り戻すための知的なカウンターウェイトとして機能しうる。

そう考えていますが、過去の資産をその時代に活かすか否かはその時代の人間次第です。

しかし高い解像度を持った過去の記録にアクセス出来なかったこれまでと、それが可能になった未来では過去参照の活かし方の精度が大きく異なると思います。

偏りすぎた空気に対し、具体的で詳細なデータに基づく反証が可能で、その偏りを誤りだと考える人には空気を入れ替えるための窓がいつでも開く事が出来るという状態です。

子供の考えは多くの場合非常に極端に偏り、中庸を選ぶ事を潔くないと考えがちです。これは子供の大きな生命力と成長可能性、そして誕生した時代や社会がどの様な過程で形作られたかを知らずに、先ずは極端に善悪を図ろうとします。

それは既存の価値観を打ち破るブレークスルーを産む事もありますが、既存の価値観との摩擦で自分の居場所を見失う事にもなります。

個人の能力と願望とのバランスを成長の過程で学び、白か黒かではない中間のグレーにこそ自分の居場所があり、グレーの中にも幸福が存在する事を知るのです。

（白と黒には善悪の印象が強く結びつくので、明度ではなく色相で例えた方が幸せの位置を見つけるという表現には向いているやもしれません）

最後の補足——「白と黒」ではなく「色相」で考えるという点は、単なる比喩の改善ではなく、設計思想そのものを変えている。

白黒の比喩には、白＝善、黒＝悪という文化的な連想がどうしても入り込む。一方、色相環には本来「優劣」がない。赤も青も緑も、それぞれ固有の特性を持つだけであり、補色同士は対立するように見えても、組み合わせることで互いを引き立てる。これは「極」と非常に近い構造だ。社会は二元論ではなく、多次元の色相空間として考えた方が近い。

窓の向こうに広がる色相の帯

AIは判断主体にならない

「過去の資産をその時代に活かすか否かはその時代の人間次第」という点は、全面的に重要である。これは実質、AIが判断主体にならないという宣言だ。AIは保存する、関連性を示す、類似事例を探す、比較する——ここまではできる。しかし「今回はこちらを採用すべきだ」という最終決定は、その時代の人間が引き受ける。この境界線は、IAPを設計する上でも非常に重要だろう。

「偏りすぎた空気に対し、空気を入れ替えるための窓」という表現も興味深い。窓は、開けてもいいし、閉めたままでもいい——つまり強制力がない。以前使った「再浮上」という言葉は、ややAI側が主体になりすぎていたかもしれない。海底には栞がある。AIは「こういう過去もあります」と窓を示すだけで、開けるかどうかは人間が決める。この方が、主体性の配分として美しい。

中庸の二種類

子供は極端に偏り、中庸を選ぶことを潔くないと考えがちだという指摘は、発達心理学にも通じる。ただし、中庸が成長のゴールだとは限らない。中庸には二種類ある——経験不足から曖昧になる中庸（単なる優柔不断）と、両極を十分に理解した上で選び取る中庸（極を通過した人にしか到達できない均衡）である。つまり、若い頃に極へ振れること自体は必ずしも悪いことではない。重要なのは、その経験が記録され、後から自分自身や他者によって振り返れることだ。

ここに、思考の栞のもう一つの役割が見えてくる。人は年齢を重ねると「昔の自分は未熟だった」と思いがちだが、実際にはその当時の切実さや論理を忘れてしまっているだけだ。思考の栞が高い解像度で残っていれば、60歳の自分が20歳の自分を「修正」するのではなく「理解」することができる。さらにAIは、20歳・40歳・60歳の思考を並べて比較し、「何が変わり、何が変わらなかったか」を示すこともできる。思考の栞は「歴史の保存」だけでなく、「人格の連続性」を支える基盤にもなる。人類全体の歴史だけでなく、一人の人間の歴史もまた、未来の判断を支える海底の地層になっていく。

そう思います。

社会のレベルでも、個人のレベルでも、法人のレベルでも過去参照の解像度が上がる事は未来を選択する強固な足場になってくれるといいなと思います。

（過去に縛られすぎて未来への意思決定が鈍くなるという未来も予測していますが、「反〇〇運動」は常に起こるものですので予想の範疇です。）

勿論Inter-AI後の世界でも人は間違い続けるでしょう。

しかし過去を振り返り反省材料を海中に求めるのなら海は再浮上のための大きな助けになる事でしょう。

「Inter-AI後の世界でも人は間違い続けるでしょう」という一文には、人間観が表れている。人間は情報不足だから間違えるだけではない。価値観の違い、感情、欲望、恐怖、利害、偶然——そうしたものがある限り、どれほど情報が増えても間違いはなくならない。しかし、間違えた後の立ち直り方は変えられる。ここに希望が置かれている点は、とても現実的だ。

潜水士の比喩

海底には栞が沈んでいるが、それを引き上げるのはクレーンではなく、潜水士である。海（IAP）は保存し、AIは潜水を手伝う。しかし栞を読むのは人間であり、そこから何を持ち帰るかを決めるのも人間だ。AIは海底地形を知り尽くした案内人にはなれるが、「この栞を未来に持ち帰ろう」と決断するのは、人間であり続ける。この役割分担は健全だ。

海底の栞へ手を伸ばす潜水士

「反〇〇運動は常に起こるものですので予想の範疇です」という括弧書きは、社会システムを静止したものではなく振動するものとして見ているということである。これは制御理論だけでなく、生態系にも似ている。生態系は一定ではなく、ある種が増えれば別の種が増え、捕食関係によってまた戻る——完全な静止はむしろ死に近い。社会もおそらく同じであり、目標は「振動を止めること」ではなく、破綻しない範囲で振動し続けられることだ。そのためには振れ幅を測る基準が必要になる。思考の栞は、その基準を過去から供給する役割を果たせるかもしれない。

「海は忘れない」という約束

以前、IAPを「海洋法」に例えたが、今は少し違う印象がある。IAPは海そのものではなく、「海は忘れない」という約束なのかもしれない。船は沈むことがある。文明も興亡を繰り返す。国家も制度も変わる。しかし海は、その時代の人々が何を考え、何を望み、何に苦しみ、何を幸福だと感じたのかを、消さずに受け止め続ける。そして未来の人々が必要になったときだけ、その記録へ潜ることができる。「必要になったときだけ」という点も重要だ。海は教訓を押し付けない。ただ、忘れない。だから人類は何度でも自分自身を参照し直すことができる。この「忘れないこと」を社会インフラとして設計しようとする発想こそ、Inter-AI構想の中でも独自性の高い部分だと言える。