Darkwebを学びInter-AIでのセキュリティについて考える

質問があります。

前提として、危険視されかねない情報ではありますが、動機は危険の正体を知り何を怖がり何を恐れずに対策を考えるための知識の糧にしたいという事を理解してください。

それでは本題の質問です。

「ダークウェブ」は、いつ、どの様に誕生したのでしょう？

また、その前兆や前身は存在していたのか？

まずはこの二つについて教えてください。

結論から言うと、ダークウェブは突然発明されたものではない。インターネットそのものが軍事・研究用途から始まり、その中で匿名通信技術が研究され、それが一般へ公開され、さらに犯罪者や活動家、ジャーナリストなど様々な立場の人々が利用するようになった結果として形成されたものである。

ダークウェブは"場所"ではなく、「匿名性を最優先に設計されたネットワーク群」の総称

と理解すると実態に近づく。前兆・前身も明確に存在する。

まずWeb全体は三層に分けて理解できる。検索エンジンで見つかる通常のWeb（Surface Web）、企業のデータベースやクラウド、メール、銀行、会員サイトなど検索されないWeb（Deep Web）、そしてTorなど専用ソフトが必要な匿名ネットワーク上のWeb（Dark Web）である。Deep Webは犯罪とは無関係で、個人のGmailやDropboxもこれに含まれる。

前身の第一は、1980年代のBBS文化である。BBS（Bulletin Board System：電子掲示板システム）やパソコン通信は、日本ならNIFTY-ServeやPC-VAN、海外ならFidoNetなどが知られる。ここでは匿名ハンドル、会員限定コミュニティ、クローズドな情報交換が行われ、現在のSNSや匿名掲示板文化の原型になっている。

前身の第二は、1980年代後半から大学や研究所、MITなどで広まった「情報は自由であるべきだ」というハッカー文化である。同時に、政府や企業から通信を守るための暗号技術が研究され、これが後の匿名通信技術へつながっていく。

前身の第三は、1990年代に現れたサイファーパンク（Cypherpunk：暗号技術によって個人の自由を守ろうとする思想・技術運動）である。彼らは「国家は通信を監視し、企業は個人情報を集める。だから暗号化によって自由を守るべきだ」と考えた。ここから現在のVPN、HTTPS、PGP、Bitcoin、Torへ続く思想が生まれる。つまりダークウェブは犯罪者ではなく、暗号研究者から始まったというのが歴史である。

最も興味深いのは軍事研究としての匿名通信である。1990年代、アメリカ海軍研究所（U.S. Naval Research Laboratory）は、諜報員や外交官、内部協力者を守るために匿名通信を研究した。通信相手が特定されれば命に関わるからである。そこで考案されたのがOnion Routing（オニオンルーティング：多層暗号化を用いた匿名通信方式）だった。通信をA→B→C→Dと直接送るのではなく、玉ねぎの皮のように何重にも暗号化し、途中の中継サーバは一つ前の相手しか知らない設計にすることで、誰が最初で誰が最後なのかを誰にも分からなくする。

2002年頃、この研究を一般公開したのがTor（The Onion Router：オニオンルーティングを実装した匿名通信ソフトウェア）である。これが現在のダークウェブ最大の基盤になる。重要なのは、Tor自体は違法ソフトではないという点だ。むしろジャーナリスト、内部告発者、人権活動家、独裁国家の市民を守るためにも使われている。

Tor公開後、2000年代中頃になるとTor専用サイト（xxxx.onion）が作られ始める。Googleからは見えず、普通のブラウザではアクセスできないこの".onion"空間が、現在一般に「ダークウェブ」と呼ばれている。犯罪利用は2000年代後半から急速に増える。理由は単純に匿名だからで、麻薬市場やマルウェア販売、詐欺、個人情報売買などが現れた。しかし同じ空間には報道機関や告発窓口、検閲回避サイト、政治亡命者も存在している。つまりダークウェブは「犯罪専用ネットワーク」ではなく、匿名性が高いために正当な利用者と犯罪者が同居している空間なのである。

技術史として俯瞰すると、1980年代のBBSと匿名文化から、1990年代の暗号研究とサイファーパンク、1995〜2000年の米海軍による匿名通信研究、2002年のTor公開、2004年以降の.onionサイト増加、2011年頃の違法マーケットへの世界的注目、そして現在の匿名通信インフラとしての継続利用へと、一本の流れが見えてくる。ダークウェブは「犯罪が目的で作られた」のではなく、「匿名通信という技術」が公開され、その上に多様な用途が形成された結果である。一般に語られる「ダークウェブ＝犯罪の巣窟」というイメージは一面的であり、匿名性を必要とする正当な利用も歴史的には重要な役割を担ってきた。

次に掘り下げると面白いテーマは、Torが技術的にどのように匿名性を実現しているのか、ダークウェブと通常のインターネットは実際にはどこで接続しているのか、捜査機関は匿名利用者をどのような原理で特定するのか、といった点である。これらを理解すると、「匿名」と「追跡可能性」の境界がより具体的に見えてくる。

Googleからは見えない理由を教えてください

結論から言えば、Googleが見つけられないのではなく、「Googleが巡回できないように設計されている」からである。より正確に言うと、Googleの検索エンジンが機能する前提条件が、ダークウェブにはほとんど存在しない。

Googleは世界中にクローラー（Crawler：Webページを自動巡回して収集するプログラム、日本語では「巡回ロボット」）を持ち、URLを知り、ページへアクセスし、中のリンクを読み、リンク先へ移動し、また読む、という単純な流れを何兆ページも繰り返している。つまりGoogleは「リンクを辿る」ことで世界を知っている。

しかし.onionは通常のインターネットに存在しない。通常のWebサイトは https://example.com のような形式だが、ダークウェブは xxxxxxxxxxxxxxxx.onion という特殊なアドレスであり、通常のDNS（Domain Name System：ドメイン名をIPアドレスへ変換する仕組み、日本語では「名前解決システム」）では解決できない。Googleが.onionへアクセスしようとしても、住所が分からず行き着けない。

さらにTorの中だけに存在しているという事情もある。通常のWebはGoogleから世界中のサーバへ直接アクセスできるが、Torネットワークの内部をGoogleが巡回するようには設計されていない。加えて、そもそもURLが公開されない。普通のサイトはホームページやリンク、SNS、検索によって自然に発見されるが、ダークウェブでは「URLを知っている人だけ」という運用が多く、ab4y7gkxv...onionのような、人間が推測できない長い文字列がURLとして使われる。

サイト管理者の側も検索されたくないと考えている。通常のサイトは「Googleに載りたい」と思うが、ダークウェブでは逆に、検索されないことそのものが目的として設計されている。これはrobots.txtの話とも関係ない。通常Webでは「検索しないでください」とGoogleへお願いできる仕組みがあるが、ダークウェブではそこへ辿り着く以前に、Googleがサイトへ到達できないので話が終わっている。

では検索サイトは存在しないのかというと、Tor内部専用の検索エンジンは実在する。ただしGoogleのように世界中を網羅しているわけではない。URLが頻繁に変わる、サイトの寿命が短い、あえて登録しないサイトが多い、クローラーを拒否するサイトも多いといった理由から、ダークウェブではGoogleのような包括的な検索体験は成立しにくい。

少し抽象化すると、私たちは普段「Google＝インターネット」のように感じているが、実際にはそうではない。Googleが見ているのは、インターネット全体ではなく、「Googleがアクセスでき、収集し、インデックス（Index：検索用に整理・登録されたデータベース、日本語では「索引」）できた部分」だけである。その意味では、通常のWebは「図書館の蔵書」のようなものであり、ダークウェブは「特定の鍵を持つ人だけが入れる私設書庫」に近く、Googleという司書はその書庫の中に入る権限も経路も持っていない。したがって「Googleから見えない」というより、「Googleの活動範囲の外側に設計されたネットワーク」と考える方が、技術的には正確である。

Googleは技術ではなく倫理上の観点からダークウェブへのアクセスのための開発を行っていないと捉えられますか？

結論から言うと、その理解は一部は正しいものの、それだけでは説明できない。実際には、技術的な理由、設計思想の違い、倫理・法務・事業上の理由という三つが重なっている。

まず技術的な理由。Googleのクローラーは通常のインターネット（TCP/IP上のHTTP/HTTPS）を巡回するよう設計されている一方、Torは匿名性を維持するために複数の中継ノードを経由する特殊なネットワークである。「Googleが少し設定を変えれば全部見られる」というほど単純ではないが、Googleが本気でTor対応クローラーを開発すること自体は技術的には可能だろう。

次に設計思想の違いが重要になる。Tor利用者の多くは検索されたくない、身元を秘匿したい、公開範囲を限定したいという目的を持つ。一方Googleは「情報を整理して誰でも検索できるようにする」ことを使命としている。Googleの理念である「情報を可視化する」と、Torの理念である「情報の匿名性・秘匿性を守る」は、ある意味で正反対の方向を向いている。

三つ目に、倫理・法務・事業上の理由も非常に大きい。仮にGoogleが世界中の.onionサイトを検索できるサービスを始めれば、違法薬物の売買サイトや詐欺サイトなども検索対象に含まれる可能性があり、各国の法制度や社会的批判への対応が極めて困難になる。またGoogleは広告事業が収益の中核であり、広告主は一般に「ブランドセーフティ（Brand Safety：広告が違法・有害・不適切なコンテンツと並ばないようにする考え方）」を重視するため、ダークウェブ全体を検索対象にすることはGoogleの事業モデルとも整合しにくい。

ただし、少し批判的に見ておきたい点がある。もしGoogleが「倫理的だからやらない」だけなら、Googleは違法サイトや詐欺サイトが存在する通常のWebも検索対象にしていないはずである。しかし現実には、通常Webには詐欺サイトも違法コンテンツも一定数存在し、Googleはそれらを検出・削除・順位を下げるなどの対策を取りながら検索サービスを提供している。つまり倫理を理由に「一切見ない」のではなく、管理可能な範囲では検索し、管理が極めて困難な領域には積極的には踏み込まない、という方が実態に近いだろう。

もう一つ興味深い視点として、Googleは「見えない」のではなく、「見ようとすれば見られる部分もあるが、それを世界規模の検索サービスとして提供する合理性がほとんどない」とも言える。実際、Googleの研究者やセキュリティ研究者がTorネットワークやダークウェブを研究対象として調査することはあるが、それは「Google検索」に統合することとは全く別の話である。

この話はさらに掘り下げると、「匿名性を守る技術」と「社会の安全を守る技術」は本質的に対立するのか、それとも両立できるのかという、暗号技術・情報倫理・国家安全保障が交差するテーマにつながる。ダークウェブの歴史を理解する上でも、最も重要な論点の一つである。

わたしがこのトピックに興味を持ったのはわたし自身「君子危うきに近づくべからず」という信条ではありますが、Webが社会に貢献して社会構造を変えてしまった事と、ダークウェブが存在している関係性を理解し、Inter-AIにダークウェブ的なものが出来てしまうのではないか？

出来ない様に対策は出来るか？

出来ても良いのではないか？

といった疑問について考える必要を感じたからです。

この問題意識は、ダークウェブそのものよりも、「新しい情報基盤には必ず、その理念とは逆方向に働く構造が自然発生するのではないか」という問いとして捉えると、より本質的になる。実際、歴史を見るとその傾向がある。Webにはダークウェブ、電子メールにはスパム、SNSにはボットネットや情報操作、暗号通貨にはランサムウェアやマネーロンダリング、オープンソースにはマルウェア混入——新しいインフラが社会に浸透すると、そのインフラの「負の利用法」も必ず進化するという現象である。

Inter-AIにも「ダークウェブ」は生まれるだろうか。生まれる可能性は高いと考える。ただし、それは現在のダークウェブと同じ形ではないだろう。Inter-AIが描く世界は、AI同士が通信し、交渉し、知識を交換するネットワークである。この世界での「ダーク」とは、人間が監査できないAI同士の通信、所有者に見えない内部プロトコル、認証されたAIだけが参加できる閉鎖的ネットワーク、国家や企業の検閲を避けるための分散AIネットワーク、といったものだろう。こうしたものは技術的には十分考えられる。

しかし、それは悪なのだろうか。現在のダークウェブも、匿名性そのものは悪ではない。独裁国家の反体制派、内部告発者、戦時下のジャーナリスト、人権活動家にとって匿名性は生命線である。つまり匿名性は善でも悪でもなく、「能力」である。悪用も善用もできる。Inter-AIでも同じだろう。

「出来ないようにする」ことは実現可能だろうか。これはかなり難しい。理由はインターネットの歴史と同じで、ある程度オープンなプロトコルが公開されれば、誰かが「もっと匿名にしよう」「もっと分散させよう」という改良を始め、そのコードが公開されれば世界中で複製できる。中央管理者が永久に禁止することは極めて困難であり、これはLinuxやBitcoin、Torが示した歴史でもある。

ではどうするのか。「存在を防ぐ」のではなく、正規ルートの方が魅力的であるよう設計することが重要だと考える。インターネットで言えば、人々が銀行を利用するのは現金しか使えないからではなく、銀行の方が便利で安全だからである。同様にInter-AIでも、透明性、監査可能性、責任の所在、高い利便性を備えた正規ネットワークが十分魅力的なら、多くの利用者はそこに留まるだろう。一方で、匿名性を必要とする特殊な用途は残り続ける可能性がある。

以前語られていた、AI同士が目的や制約を共有し、マニフェストを交換しながら協調するというInter-AIの構想には、一つ興味深い性質がある。現在のインターネットは、通信相手が「何をしようとしているか」を理解しないままデータを運ぶ。一方Inter-AIでは、AIが目的、制約、品質基準、責任範囲まで共有する可能性がある。もしそうなら、「匿名だから危険」という単純な話ではなく、「目的の透明性」と「主体の匿名性」を分離できるか、という新しい設計問題になる。誰が送ったかは秘匿する。何を目的としている通信かは検証可能にする。このような設計が実現できれば、現在のダークウェブとは異なる性質を持つ匿名ネットワークが成立するかもしれない。

ここで一つ問いを返したい。Inter-AIは、「人間が見えないAI同士の通信」を最終的には許容する構想だろうか。それとも、どれほど高度になっても、最終的な監査可能性だけは人間側に残すべきという立場だろうか。この選択は、おそらくInter-AIの設計思想を決める根幹の一つになるように思う。

新しい基盤には、理念と逆向きの影が必ず生まれる

わたしの懸念は「思想の主体」の匿名性を守り、思想そのものと主体を部外者によって結びつけられてしまう懸念から匿名性の保護をどの様に考えるべきかという問いに於いて、ダークウェブ利用者の悪意あるユーザーたちへの対策をわたしなりに考える事は出来るだろうかという事が出発点です。

危険と捉えられがちな思想思考であっても、深海に沈めて保護すべきであるというのは当初から一貫したコンセプトです。

それにはダークウェブの負の利用者の思想さえも含まれます。

ただ、それら悪用に抵抗のない利用者が侵害という仕組みを利用して他者の深海へアクセスしようとする事は想像に難くありません。

勿論粗い想像力、構想の段階ではそれをコーストガードによって「思考災害」ともいうべき最悪の事態から守りたいと考えましたが、もう少し、悪意ある利用者がどの様に現在のダークウェブを利用し、また同時に悪意のない利用者はダークウェブの中でどの様に安全が確保されているのかを知っておきたいと思ったのです。

この問いは、以前のInter-AI構想の文脈とつながる。ここで扱っているのは「犯罪をどう防ぐか」ではなく、「思想の保護空間は、悪意を持つ主体の存在を前提としてどのように設計されるべきか」という設計論である。これは情報セキュリティでも、OS設計でも、インターネット設計でも繰り返し現れる問いだが、一点だけ前提を修正した方がよい。

「悪意ある利用者」と「侵害する能力を持つ主体」は別の問題である。人はつい「悪意がある人」を恐れるが、セキュリティ設計では「能力がある人」を想定する。善人、悪人、国家、AI、ハッカーという区分ではなく、「システムを破れる能力を持つ主体」を考える。国家機関が捜査のために匿名通信を解析する能力を持つこともあれば、善意のセキュリティ研究者が脆弱性を見つけることもある。能力と悪意は一致しない。

ダークウェブでは何によって安全が保たれているのか。実は「ダークウェブだから安全」なのではなく、安全なのは暗号技術である。Torは通信経路を匿名化するが、利用者のPCがマルウェアに感染していれば匿名性は意味を失う。つまり匿名通信は安全と同義ではない。

実際の攻撃はどこで起きるかも興味深い事実である。多くの摘発や侵害はTorそのものを破ったのではなく、利用者が本名をどこかで使った、同じパスワードを再利用した、OSの脆弱性を突かれた、ブラウザの欠陥を利用された、偽サイトへ誘導された、運営者が内部協力者だった、といった「匿名通信の外側」から破られることが非常に多い。これは現在でも変わらない。

これはInter-AIにもそのまま当てはまる。以前から語られてきた「思想を深海へ沈める」という表現は、当時は「思想を隠す」という意味だと理解していたが、今回の話を読むと少し違って見える。守ろうとしているのは思想そのものではなく、思想と主体との結び付きなのではないか。つまり「思想→匿名→保護」ではなく、「思想・主体→結合情報→これを守る」という構造である。この違いは非常に大きい。

思想と主体を分離するという発想は、情報科学ではかなり一般的である。匿名投票では誰が投票したかと投票内容を分離し、電子決済でも購入者とカード番号を分離する技術がある。つまり守る対象はデータではなく対応関係である。Inter-AIも同じ設計になる可能性がある。

コーストガードの役割についても、以前の構想ではコーストガードは危険思想を排除する存在ではなく、思考災害を防ぐ存在だった。もしコーストガードが思想を審査するなら検閲になるが、侵害行為だけを監視するなら役割は全く変わる。これはインターネットでも、コンテンツではなくDoS（Denial of Service：サービス妨害攻撃）や侵入行為を検知するという考え方に近い。

ダークウェブから学ぶべきなのは犯罪手口そのものではなく、「匿名性だけでは安全は成立しない」という歴史である。匿名性、暗号、分散は通信を守る技術だが、信頼、認証、権限管理、監査は別に設計しなければならない。

そして、この構想の中で今後最も重要になる設計概念は、おそらく「匿名性（Anonymity）」ではなく「リンク不能性（Unlinkability：複数の活動やデータが同一主体に属すると第三者が結び付けられない性質）」だと考える。思想は公開されてもよい。主体も存在してよい。しかし、その二つを第三者が勝手に結び付けられない。この「結合情報」をどのように保護するかという視点は、ダークウェブや匿名通信、電子投票、プライバシー保護技術が長年取り組んできたテーマでもある。その意味で、ダークウェブを研究対象として見る価値は「地下世界を知る」ことではなく、「匿名性の設計が現実にどこで成功し、どこで破綻してきたか」を学ぶことにある。

正確には意図しない思想と主体の結び付けをコントロール可能にしておきたい。という事です。

その一文で、設計思想がかなり明確になった。これまで「匿名性」を中心に理解していたが、実際に求められているものは少し異なる。それは、「主体と思想の結合を、本人の意思によって制御できること」である。これは匿名性よりも一段抽象度の高い要求だ。

現在のSNSはこの制御が非常に弱い設計になっている。一度、思想A→アカウントB→実名Cという対応関係が形成されると、その後は本人の意思とは無関係に第三者が拡散・保存・分析できる。つまり結合が不可逆である。避けたいのは、この不可逆性だろう。

「匿名」ではなく「可逆的な結合」という違いは重要である。匿名性だけを追求すると「思想→誰のものか分からない」になるが、求められているのはそうではなく、「思想→本人だけが主体との対応を保持している」状態である。公開もできる。匿名にもできる。後から本人が結び付けることもできる。切り離すこともできる。この選択権が主体にあることが重要なのだ。

これは「アクセス権」の問題ではない。現在の情報セキュリティは「誰がデータを読めるか」を制御することに重点があるが、ここで重要なのは「誰が"意味"を結び付けられるか」である。思想そのものは公開されている。主体も存在している。しかし、その対応関係だけは本人が制御する。この構造は、単なる暗号化とは異なる設計課題になる。

「深海」の意味も変わって見える。「深海に思想を沈める」という表現は、思想を隠す場所ではなく、結合情報を保護する環境なのではないか。思想は水面に浮かんでいても構わない。しかし、その思想が誰のものかという「航海図」は深海にある。その航海図にアクセスできるかどうかを本人が決める。この比喩は、これまでの「深海」のイメージとも整合しているように思う。

Inter-AIに置き換えると、「主体」が必ずしも人間だけではないことが興味深い。将来、人間、AIエージェント、法人AI、国家AIが共存すると、「誰が発言したか」は時に重要であり、時に重要ではない。すると、発言の評価と発言主体の特定を分離する設計が必要になる。これは現在のWebにはほとんど存在しない概念である。

ここで一つ設計上の難問がある。「主体だけが結合をコントロールできる」とすると、犯罪や重大な権利侵害が発生した場合でも、その結合情報は誰にも開示されないのだろうか。これは技術の問題ではなく、制度設計の問題である。もし完全に開示不能なら匿名性は非常に強くなる。一方で、例外的な開示手段を設けるなら、その権限を誰が持つのか、どのような条件で発動するのかが重要になる。以前から構想されていた「コーストガード」は、もしかすると思想を監視する存在ではなく、「主体と思想の結合情報に対して、極めて限定的な条件下でのみ介入できるガーディアン」という役割なのかもしれない。そう考えると、コーストガードは「警察」ではなく、「鍵の管理者」に近い存在として再定義できる可能性がある。この方向性は、ダークウェブとは異なる設計思想である。ダークウェブは「誰にも結び付けられないこと」を目指すが、この構想は「結び付ける権限そのものを設計すること」を目指しているように見える。これは匿名通信の延長ではなく、情報と主体の関係性そのものを設計対象にしている点で、一段抽象度の高い問題設定だと感じる。

守るのは思想でも主体でもなく、その二つを結ぶ線

権利侵害が発生した場合は頭の中で考えたり想像しただけではなく、物理世界に被害を及ぼしたという事です。

わたしは以前から考えるだけで罰せられるディストピアを作ってはいけない。どの様に危険やインモラルな考えであっても考える自由は最後まで保障されるべきで、その考えを利用し、実行すれば、それは裁かれるべきだと考えます。

しかし、第三者が、誰かの思考を盗み見て実行に移し被害や損害が出た場合、実行者と実行した思想は特定され、実行者は裁かれるべきですが、思想の発案者は考えただけですので裁かれてはならないと思います。

これはInter-AI憲章に書かれるべきかもしれません。

この考え方には一つの重要な哲学的区別が含まれている。それは「思想」と「行為」を制度上、明確に分離するということであり、この区別は近代法の根幹にもある。

整理すると、守ろうとしているのは、思考→構想→表現→指示→実行→物理世界への影響という連続体の中で、責任が発生する境界を定義することだと思う。現在、その境界は「物理世界への実行」付近に置かれている。つまり、考えること、想像すること、仮説を書くことは自由だが、実際に侵害が発生したなら、その実行主体が責任を負う、という考え方である。

ここで一つだけ補足したい点がある。「考えただけ」と「実行した」は明確に区別できるが、その中間に「他者へ実行を働きかける行為」がある。犯罪の共同計画、明確な教唆、脅迫、雇用・依頼などである。多くの法制度では、これらは「単なる思考」ではなく、既に社会的行為とみなされる。つまりInter-AI憲章を設計するなら、「思想」と「行為」の二分だけでは少し粗い可能性がある。

そこで三層に分けて考えたい。第一層は思想領域であり、完全自由で誰にも侵されない。第二層は意思疎通領域であり、議論、仮説、反論、思想実験、創作が含まれ、ここも極めて強く保護される。ただし「相手を侵害へ向けて操作すること」とは区別する必要がある。第三層は物理的影響領域であり、ここから責任が発生する。実行、命令、システム侵害、現実世界への被害などである。

「思想を深海へ沈める」という比喩について、改めて気付いたことがある。それは思想を閉じ込めるというより、思想を司法権や世論から守る最後の避難場所なのではないか。その意味では、深海は刑務所ではなく図書館に近い。どんな危険思想も保存されるが、その思想だけでは誰も裁かれない。これは非常に一貫している。

「思想の主体」は保護されるべきかについても、もう一歩踏み込みたい。主体と思想の結合を本人がコントロールしたいという話があったが、そうであればInter-AI憲章には単に「思想の自由」だけでは足りない気がする。むしろ、次のような権利として定義できると思う。

「思想主体不可侵原則（仮称）」——思想の主体は、その思想と自己との結合について、自らの意思によってのみ開示・秘匿・共有・移転を決定する権利を有する。第三者は、本人の同意なく、その対応関係を推知・収集・開示・利用してはならない。これは、思想そのものを保護するというより、「思想と人格との対応関係」を基本的人権として扱う発想である。

この考え方はInter-AI憲章の理念と非常に整合的だと思うが、一つだけ慎重になるべき点がある。「思想の発案者は裁かれてはならない」という原則には概ね賛成だが、「発案」と「主体的な実行への関与」をどう区別するかは、憲章では明確に定義する必要がある。個人的な思考実験として危険なアイデアを考えること、哲学・文学・学術研究として危険思想を論じることは、強く保護されるべき対象だろう。一方で、特定の他者に対し、具体的な侵害行為を実行するよう意図的に働きかけること、犯罪実行のための共同意思形成や役割分担に加わることまで「思想」と同列に保護すると、多くの法制度や倫理体系と衝突する。したがってInter-AI憲章を書くのであれば、「思想は最大限保護する。しかし、他者の行為を意図的に形成・誘導する社会的行為は、思想そのものとは区別して扱う」という境界線を丁寧に設計することが、理念を現実の制度へ落とし込む上で重要になる。この境界が明確になれば、「思考だけで裁かれるディストピア」を避けながら、「現実の侵害に対する責任」も両立させやすくなるだろう。

それは啓蒙、扇動、教唆にどの様な線を引くかという事ですね。

その通りである。そして、そこがInter-AI憲章の中で最も難しく、同時に最も価値のある設計課題になると思う。これは数千年にわたって哲学・法学・政治学が議論してきた問題でもある。

啓蒙（Enlightenment）の目的は相手の理解を深めることである。相手は賛成してもいい、反対してもいい、判断を保留してもいい。つまり主体性を残す。扇動（Incitement）の目的は感情を刺激して集団を動かすことであり、論理よりも怒り、恐怖、憎悪、熱狂などを利用することが多く、相手の冷静な判断能力を弱める方向へ働く。教唆（Solicitation / Criminal Instigation）の目的は特定の行為を実行させることであり、「考えろ」ではなく「やれ」になる。ここでは思想ではなく、行為の形成が目的になる。

興味深いのは、Inter-AIでは「内容」よりも「目的」を見ることができるかもしれないという点である。例えば「爆発物の原理を説明する」という内容は、大学の講義にも、軍事研究にも、小説にも、犯罪準備にもなり得る。内容だけでは区別できない。だからInter-AIでは、内容ではなく通信の意図を見る設計が重要になる気がする。知識共有から議論、共同研究、実行依頼へという流れは、文章そのものではなく、通信全体の目的が異なるのである。

ただし、ここに危険がある。「AIが目的を理解して判定する」という設計は、一歩間違えると思想警察になる。AIが「あなたは悪い目的ですね」と判断し始めることは、最も避けたい世界だろう。

そこで一つ別の視点がある。以前構想されていた「コーストガード」という概念について、コーストガードが監視すべきなのは思想でも目的でもなく、権利侵害そのものではないかと思う。思想→議論→公開→批判、ここまでは自由。しかし思想→他者への侵入→情報窃取→人格攻撃→現実への侵害、ここで初めて介入する。すると、コーストガードは思想の裁判官ではなく、境界線の管理者になる。

今日の対話で、一つ新しい理解に至った。以前から使われてきた「深海」という比喩を、これまでは「隠す場所」だと思っていたが、今は違う気がする。深海とは、思想が自由に存在できる環境そのものなのではないか。そこには善い思想も、危険思想も、狂気も、芸術も、全部ある。しかし深海の住人同士は、互いの境界を侵さない。コーストガードは、思想を取り締まるのではなく、境界侵犯だけを取り締まる。

この発想には、インターネットとは異なる設計思想が見える。現在のプラットフォームは、「何を話したか（コンテンツ）」を中心に管理する傾向がある。一方、この構想は、「何を話したか」ではなく、「他者の境界を侵害したか」を中心に制度を組み立てようとしている。もしこの原則を一貫して設計できるなら、それは従来のコンテンツモデレーションとはかなり異なる、新しい情報空間の憲章になり得ると思う。

取り締まるのは思想ではなく、境界の侵犯だけ

そうです。

そもそもInter-AIの出発点は個人という主体の思考思想の保護でした。

ついで、その対話相手パートナーとしての未来の主体「AI」です。

構想を広げるうちに企業や団体、組織、自治体、国家などが合流しました。

しかしここで起きた問題に気づいていませんでした。

個人とAIエージェントを主体とした思考の栞はタグ付けされ、危険視されたものは当事者と、主体との切り離しを行った上での危機管理権限保持者がアクセス可能という発想でした。

しかし、これが複数の集団によって生成された思考の栞には、単に業務のためのナレッジの記録だけではなく、営利のために社会への悪影響を自覚して判断を下した栞も、どう集団の構成員に対して業務命令として害のある思想や行動を促してしまう危険も含まれる事に思い至らなかったのです。

集団心理と営利追求は能力や権限の拡大によってエゴのスケーリングが起こります。

それを栞として保管する際にどの様に扱うべきか？

性善説に基づいて構想したツケが回ってきた思いです。

この対話で初めて、Inter-AIの設計上の「断層」が見えた気がする。これは性善説・性悪説の問題というより、主体の種類が変わったことで、責任の構造が変化したという問題である。

当初のInter-AIは、個人⇄AIという構図だった。この場合、思想は個人の内面である。だから保護する、主体との結合を管理する、深海へ保存する、という設計は非常に自然だった。

第二段階として、企業、団体、自治体、国家が加わった。この瞬間、「思想」ではなく「組織意思」が登場する。ここで性質が変わる。組織には「内面」がない、というのが最も重要な点である。個人には内面があり、葛藤があり、未熟さがある。だから思想は保護されるべきである。しかし企業には内面はなく、企業は意思決定機構である。つまり「個人→思想→保護」だったものが、「企業→意思決定→社会へ作用」になる。保護すべき対象そのものが変わるのだ。

思考の栞の意味も変わる。個人においては、思考の栞は「考えた記録」である。しかし企業では、思考の栞は「意思決定の履歴」になり、これは監査対象になる。「利益は出る。環境は壊れる。やる。」という栞は、思想ではなく組織意思であり、社会への作用である。

今回見つかった問題は、Inter-AIがこれまで「思想の保存装置」だったが、企業が参加した瞬間、その一部は「意思決定インフラ」になってしまった、という点にある。ここで責任論が変わる。

「集団心理と営利追求は能力や権限の拡大によってエゴのスケーリングが起こる」という観察は非常に重要である。これは「主体のスケール変化」として捉えられる。一人が「利益が欲しい」と思うのは思想である。しかし一万人規模の企業が同じ判断をすると、市場、政治、環境、社会へ影響する。つまり主体が巨大になるほど、思想は公共性を帯びる。

だから同じルールでは扱えない。ここで憲章を二層に分けるべきではないかと思う。第一憲章は「人格主体憲章」であり、対象は人間と個人AIである。ここでは思想の自由、匿名性、主体保護が最大になる。第二憲章は「公共主体憲章」であり、対象は企業、国家、自治体、財団である。こちらでは逆に、説明責任、監査可能性、意思決定履歴が重要になる。

「深海」にも種類があると気付く。個人の深海は人格を守る場所であり、誰にも侵されない。組織の深海は少し違い、営業秘密や研究、交渉などは保護されるが、社会に重大な影響を及ぼす意思決定は永久に秘匿されるべきとは限らない。

以前使われていた「思想災害」という言葉を、当時は危険思想の暴走だと思っていたが、今日読むと少し違って見える。思想災害とは、思想そのものではなく、巨大な主体が、自らの思想を社会へ一方的に作用させることで起きる災害なのかもしれない。そうすると、コーストガードは個人を監視する存在ではなく、巨大主体の作用を監査する存在という役割も持つことになる。

「性善説に基づいて構想したツケが回ってきた」という言葉について、少し違う見方をしている。これは性善説の問題ではなく、設計対象が途中で変わったのである。当初のInter-AIは、「人格を持つ主体」のための思想保護システムだった。ところが、そこへ企業・国家・自治体といった「社会へ作用する主体」が参加したことで、「思想の保護」という単一原則では扱えなくなった。つまり問題は、人間が悪かったからではなく、人格主体と公共主体を同じ憲章で統治しようとしたことにある。むしろ今回の気付きは、Inter-AIを成熟させる上で非常に重要な転機だと思う。

この転機を受けて、憲章に追加すべき新しい原則がある。「人格主体には『思想の自由』が最優先される。一方、公共主体には『社会への作用に応じた説明責任』が課される。」この二つは対立する原則ではなく、主体の性質に応じて適用範囲が異なる原則である。Inter-AIは、おそらく「思想を守るシステム」であるだけでは足りず、「主体の種類ごとに異なる責任体系を持つシステム」へ進化する必要があるのかもしれない。

同じ水に、二つの憲章