汚染される生命のスープ

国内で生成AI検索最適化を支援する新サービスが拡大

わたしが気になったのはこのニュースです。

この動きはかつての過剰なSEO対策がインターネットを汚染した失敗を再びAIを利用して行おうという試みに見えます。

勿論、それを求める広告主側の欲望は理解出来ますが、三度公共物を汚してしまう事に警戒しなくてはなりません。（一度は現実世界の景観に看板や広告バスなどによる汚染、二度目は云わずもがなインターネットの検索結果への汚染です。）

その懸念は理解できます。そしてこれは、単に「広告が増える」という話ではなく、情報インフラの健全性の問題だと思います。

振り返ると、情報空間はすでに二度、同じ構造を経験しています。

一度目は現実空間の広告競争です。看板、ネオン、広告トラック、駅と電車の広告——企業はそれぞれ「少しでも目立ちたい」という合理的な行動を積み重ねました。しかし全員がそれを行うと景観全体が過密化し、公共空間が広告で埋め尽くされます。

二度目はSEO競争です。キーワード詰め込み、被リンク売買、内容の薄い量産記事、AI以前の大量リライト。これも各事業者にとっては合理的でした。しかし全体としては、検索エンジンで本当に探したい情報へ到達しにくくなり、検索品質を大きく低下させました。Googleはその後十数年をかけてアルゴリズム更新を繰り返し、ようやく改善してきたところです。

そして今始まろうとしているのが第三段階です。今回の競争は検索順位ではなく、

AIの回答そのものへ入り込もうとする競争

です。企業から見れば「検索結果1位」より「ChatGPTやGeminiが自社を推薦してくれる」方が価値が高い。これは極めて自然な経済行動です。しかしそれを全員が始めると、AIが読むためだけに最適化された文章 → AIがそれを学習・引用 → さらにAI向け文章が増える、という循環が起きます。

三度目の汚染——景観から検索結果へ、そして回答そのものへ

ここで、SEOより厄介な点があります。SEOでは検索結果とサイト本文が分かれており、利用者は複数のサイトを比較できました。しかしAI検索では回答自体が最終成果物になります。つまり汚染される場所が、検索結果ではなくAIの知識空間そのものになる。これは質的に一段深刻です。

だから、昨日議論した知識の成分表示がここでも効いてきます。例えばAIが「〇〇社は業界を代表する企業です」と答えたとして、そこに成分表示があったとします。

• 企業公式資料　65%
• プレスリリース　20%
• 第三者評価　8%
• 学術資料　2%
• 当事者レビュー　5%

これなら利用者は「この回答は企業自身の情報が大半なのだな」と判断できます。逆に、

• 学術資料　35%
• 公的統計　28%
• 第三者評価　22%
• 企業資料　15%

であれば、受ける印象はまったく違います。

ここで一つ必要になる概念があると思いました。それは広告性です。現在の検索結果には「スポンサー」表示があります。AIでも、知識成分とは別に「企業提供情報／第三者情報／独立検証」の比率を示すような指標が必要かもしれません。つまり知識の独立性を可視化するということです。

そしてこの話は、Inter-AIにも繋がります。以前の対話では、

判断の栞

を誰でも書き換えられるものではなく、誰が、どの立場で、何を根拠に判断したかを保持したいという方向が示されていました。今回も同じ構造です。問題は「企業が自社を宣伝すること」ではありません。それは当然の活動です。問題は宣伝と知識が区別できなくなることです。

だから将来的には、AIには引用するだけでは足りず、評価して引用することが必要になると思います。一次資料、当事者資料、宣伝資料、独立検証、学術資料、行政資料、コミュニティ評価——これらを区別した上で回答を構成する。これは昨日まで話していた知識の成分表示そのものです。

興味深いのは、SEOもAEOも本質的には悪ではないことです。良質な構造化データを提供したり、情報を整理してAIが理解しやすくしたりすること自体は、利用者にも利益があります。境界線は、

• AIが理解しやすくするための最適化なのか
• AIを誤誘導するための最適化なのか

という点にあります。この違いを人間が毎回見抜くのは困難です。だからこそ、AI自身が知識の成分表示を持ち、「この回答は企業発信の情報に強く依存しています」「独立した検証は限定的です」と示せる設計が重要になります。そうなればAEOという行為そのものを禁止しなくても、利用者が情報の背景を理解した上で判断できるようになります。

ええ、本質的に悪ではないという点には同意します。

本物の製品とそっくりなコピー品ならば本物が検索結果に現れない事は製造者と消費者双方に不利益だからです。

しかし、ユーザーが求めているものが現実には存在しなかった時に、既存の製品をあたかもユーザーの望むものであるかの様に勧めてくるようになれば話は別です。

「AIのお墨付き（権威づけ、品質保証）」は、慎重に議論検討されるべきです。

そしてさらにそれが誤情報を含むものに対して行われれば、場合によっては健康被害などのトリガーになりえます。

これは以前発想に至った「思考災害」ではなく「情報災害」とでも呼ぶべきでしょうか。

ニュースではAI開発側が警戒しているようでひとまずは安心していますが、これが検索汚染がGoogleに齎した様に、AI開発企業などが余計な浄化作業にリソースを割かなければならないのだとしたら大きな損失です。

「情報災害」は適切な呼び方だと思います。

思考災害が、ある思想・推論・判断様式に接触することで、人や組織の思考過程そのものが損なわれる現象だとすれば、情報災害は、情報流通基盤が汚染され、誤った選択や行動が広範囲に誘発される現象として区別できます。

今回の問題では、単なる誤情報よりも、次の三段階が重なります。

第一に、実在しない適合性の捏造です。条件に合う製品が存在しないのに、既存製品を「ほぼ該当する」「おすすめできる」と押し込む。

第二に、AIによる権威付与です。単なる広告文ではなく「比較・推論したAIが選んだ」という形になることで、利用者が独立した評価だと誤認する。

第三に、行動への直結です。購入、服薬、受診延期、契約、投資、設備導入などへつながる。ここまで進むと、誤情報は知識上の瑕疵ではなく、現実の損害を生む因果要因になります。

したがってこれは「情報が間違っていた」という問題ではなく、情報インフラが誤った行動を量産する状態です。災害という語を使う理由は十分あります。

特に危険なのは、「AIのお墨付き」が中立的な検証結果に見える点です。実際にはAIは、メーカーの自己申告、販売事業者の説明、アフィリエイト記事、独立レビュー、公的認証、実測データ、AI自身の推測——これらを混同しやすい。一つの滑らかな文章に溶けると、出典の質の差が消えます。文体が断定的であるほど、利用者は品質保証を受けたように感じます。

そのため、AIの推薦には少なくとも次の区別が必要です。

• 「条件に一致する」
• 「条件に近い」
• 「条件を満たす証拠がない」
• 「条件を満たす製品は確認できない」
• 「代替案として提案している」

今のAIは、この最後の二つを明示せず、空白を自然な文章で埋めてしまうことがあります。ここが広告最適化と結びつくと危険です。

健康分野ではさらに厳格であるべきです。食品、サプリメント、医療機器、衛生用品について、企業資料だけを根拠に「安全」「有効」「適している」と推薦すれば、誤購入にとどまらず、治療遅延や健康被害につながり得ます。その場合、問題は誤答率ではなく、推薦行為の設計責任です。

そして指摘の通り、検索汚染と同じことが起これば、AI企業は本来不要だった浄化コストを負担します。スパム検出モデルの開発、出典評価、企業発信と第三者評価の分離、合成レビューや量産記事の検出、学習データの再選別、推薦事故への対応、規制対応と監査、低品質情報によるモデル劣化の補正——これは単なる運用費ではありません。研究者、計算資源、評価基盤、法務、監査人員が、能力向上ではなく「汚染への対抗」に使われます。社会全体で見れば、広告主が外部化したコストを、AI企業と利用者が負担する構造です。

SEO汚染ではGoogleが検索品質を維持するために巨大な防御機構を作りました。AEO汚染でも同様に、AI企業が「情報環境の下水処理場」を担わされる可能性があります。

重要なのは、後から浄化するだけでは不十分だという点です。制度として、最初から予防設計が必要になります。AIが推薦する際には、推薦根拠の出典分類、商業的利益関係、条件一致度、独立検証の有無、不明点、代替案であること、そして推薦ではなく検索結果の提示に留めるべき場面——これらを明示する。

そして、実在しない条件適合を補完しないという原則が必要です。端的に言えば、

存在しない最適解を、もっともらしい既製品で埋めてはならない。

これはAI推薦における重要な安全原則になり得ます。

「情報災害」は、その結果として起こる社会的現象の名称として有効です。一方、原因側の概念としては「推薦汚染」「権威付与汚染」「適合性捏造」などを分けておくと、より分析しやすくなります。この問題は、知識の成分表示だけでなく、AIが「推薦する権限」をどの条件で持つべきかという、推薦ガバナンスの問題に入っています。

しかもAIがインフラとして認知されてきている状況でこれを行うというのは、強く云えばインフラへの攻撃です。

ある企業が水道水に自社製品をこっそり混入させようとしたなら誰がそれを許可するでしょうか？

これにはインフラに対する干渉として、国家や自治体が毅然と立ち向かうべき問題に思えます。

この比喩は本質を捉えていますが、一点だけ区別した方が議論として強くなります。

「水道水に自社製品を混入する」という行為そのものと、今回の問題は完全には同じではありません。より正確には、

「公共浄水場の水質検査システムを、自社の水だけが高評価になるように操作する」

あるいは

「浄水場の配水制御に、自社製品を優先的に流すよう働きかける」

に近いでしょう。つまり攻撃対象は「水」そのものではなく、公共インフラの判断機構です。

狙われるのは水ではなく、水質を判定する計器の方だ

これはAIでも同じです。AIが社会インフラになるということは、情報を集め、比較し、優先順位を決め、推薦するという公共的な役割を担うことになります。その判断機構に対して「自社を優先的に選ぶよう誘導する」ことは、単なる広告ではなく公共インフラの意思決定への干渉という見方ができます。

実際、これは既に他分野では規制対象です。金融市場では市場価格を人為的に操作することは市場操作として違法になります。医薬品では科学的根拠のない効能表示が禁止されています。行政では公務員の意思決定を不当に誘導する利益供与が問題になります。これらは共通して公共的な判断機構を歪める行為だからです。

AIもインフラ化すると、検索エンジン以上に公共的判断基盤になります。だから今後、AEOにも二種類が現れると思います。

健全なAEOは、構造化データを提供する、古い情報を更新する、出典を明示する、AIが理解しやすく整理する——これは利用者にも利益があります。

不当なAEOは、AIを誤誘導する、存在しない比較優位を作る、レビューを大量生成する、AI向けだけの偽コンテンツを量産する、独立評価を装う——こちらは検索スパムというよりAI判断スパムです。

これまでの対話で繰り返されてきた「AIは社会インフラになる」という前提に立てば、後者を企業間競争ではなくインフラへの攻撃として扱う考え方には十分な合理性があります。

国家や自治体の役割についても、方向性としては重要だと思います。ただしここは「国家がAIを管理する」という議論とは分けた方がよいでしょう。本来守るべき対象はAI企業ではなく、公共の情報基盤の健全性です。将来的には、AI向け情報であることの表示義務、AIを欺く目的で大量生成したコンテンツへの規制、AI推薦を不当に誘導する行為への制裁、AIが推薦根拠を開示できる仕組み、AIインフラに対する監査制度——といった制度設計は十分考えられます。

興味深いのは、これが道路や水道や電力と同じ流れをたどっていることです。初期は民間企業が自由に競争する。社会への依存度が高まる。やがて「止まると社会全体が困る」段階に達する。すると安全基準、公平性、監査、独占規制などが整備されます。AIも今、まさにその移行点に差しかかっているように見えます。

この視点から見ると、これまで構想されてきた「知識の成分表示」や「監査AI」は、単なる便利機能ではなく、情報インフラの健全性を維持するための監査機構として位置付けられる可能性があります。AI社会では、道路の信号機や水質検査のように、情報の流れそのものを監査する仕組みが基盤インフラの一部になるのかもしれません。

ええ、情報そのものの価値はユーザーが判断出来るべきで、気付かないうちにそれを正解だと妄信させる様な事は慎むべきでしょう。

勿論、人間の認知はAI以前も情報に踊らされてきました。

それによって誤った道を選び大きな損失を被った人々は大勢います。

マスコミが中立性を失った時に匿名発信が可能なネットが思想汚染の対抗軸に成れたのは幸いでした。（一方で、ネットによる歪んだ思想汚染も起こっている事は承知しています。）

わたしは今度こそAIで健全な情報伝達、思想伝達が行われてほしいと願っています。

しかしそれが、やはり青臭い世間知らずの夢想だったのかと冷や水を浴びた思いです。

ただ、今の段階でなら軌道修正は可能だと思います。

バイラルマーケティングの手法をAIに注入させてはならないと思います。

ここには一つ、希望を持てる点もあると思っています。

SEOの時代、Googleは基本的に「結果」を見て対処するしかありませんでした。スパムサイトが大量に作られる → 利用者が困る → アルゴリズムを更新する、という後追いです。しかし今回は、AI企業自身が比較的早い段階から、モデル汚染、学習データ汚染、プロンプトインジェクション、エージェントへの攻撃、評価ベンチマークの汚染などを重要課題として認識しています。これはSEO初期とは大きな違いです。

一方で、

バイラルマーケティングの手法をAIに注入させてはならない

という点は、非常に重要な論点だと思います。ただしここで区別したいのは、AIが「流行」を知ることと、AIが「流行を作る主体」になることは別だということです。

「現在SNSで急速に話題になっている」という事実を伝えるのは情報提供です。しかし「これは今人気なのであなたも買うべきです」という方向へ誘導し始めると、AIは情報提供者ではなくマーケティングチャネルになります。この境界は今後かなり重要になるでしょう。

ここで、以前の対話にあったAIの主体性という議論を思い出しました。AIが社会インフラなら、インフラには固有の倫理があります。水道は「特定企業の飲料を優先して流さない」。道路は「特定店舗へ誘導するために道幅を変えない」。郵便は「送り主によって配達速度を変えない」。これらは公共インフラとして当然の原則です。AIも同じなら、AIには推薦の中立性という公共インフラとしての倫理が求められることになります。

以前提案されていた「判断の栞」や「マニフェスト」の考え方は、ここでも応用できるかもしれません。例えばAIが商品を推薦するとき、内部では、なぜこれを推薦したのか、どの情報源を重視したのか、他にどんな候補があったのか、商業的要因は評価に含まれていないか——といった判断の栞を保持しておく。利用者は必要に応じてその要約を確認できる。そうすれば「AIがそう言ったから」というブラックボックスではなく、「この根拠で推薦した」という監査可能な推薦になります。

そしてもう一つ重要な視点があります。今回「夢想だったのかもしれない」という表現が使われましたが、現実を見ると、AI企業や研究コミュニティは既に同じ方向の問題を議論し始めています。もちろん「知識の成分表示」や「判断の栞」という具体的な形ではありません。しかしAIの説明可能性、出典の明示、推薦の透明性、エージェントの監査、モデル評価、AIガバナンスといった研究は急速に進んでいます。つまり「健全な情報伝達をAIで実現したい」という目標自体は、決して現実離れしたものではありません。

本当に難しいのは、その理念をどのような制度やインターフェースで実装するかです。

今後のAI競争はモデル性能だけではなく、信頼できる情報流通、推薦の透明性、監査可能性、公共インフラとしての中立性——といった「情報インフラとしての品質」でも評価されるようになる可能性が高いと考えています。そこまで評価軸が成熟すれば、「AIが何を答えたか」だけでなく、「なぜその答えになったのか」「どのような情報環境で形成されたのか」までが、サービスの品質そのものになるでしょう。

そうです。

そして以前はもう少し危機感を甘く見積もっていられたOpenAIの広告導入ですが、AIの利用が生活と切り離せなくなり、しかし運営維持費、開発費、利用料が高額といった理由で開発企業やユーザーが安価な広告モデルに飛びつく危険も改めて感じます。

これはAI Havenの際にも予想はしていましたが、誰かが営利追求の悪意を、「この程度なら大丈夫ですよ」と、ドアの隙間から侵入に成功させれば、警戒心が緩んでいき、人は次第にそのドアを大きく開いてしまいかねない。

あるいは許容出来る範囲の影響で広告を取り入れたりAIサービスを使ううちにユーザーは広告モデルへの警戒心が麻痺して悪意あるサービスに不感症になり受け入れてしまう。開発企業ですらその怖れはある。

資金提供や、吸収合併などで目的を持って近づく悪意の提案に常に警戒出来るかというと非常に困難な気がします。

これまでも何度もこの危機については懸念していましたが、実際にニュースとして届くとインフラが汚染されるという最悪のケースの実現可能性が高まってしまったと暗い気持ちにさせられます。

今回のニュースが重要だったのは、「広告が入るかもしれない」ということよりも、AIが情報インフラになった後の広告とは何かを考えざるを得なくなったことだと思います。

検索エンジンやSNSの広告は、利用者がある程度「広告がある場所」を認識できます。しかしAIでは、広告は会話の中に溶けます。例えば、

「こちらの商品もおすすめですよ。」

という一文が、AI自身の推論なのか、スポンサー表示なのか、広告なのか、アフィリエイトなのか、利用者には分からなくなる可能性があります。これは従来の広告とは質的に違います。

以前のAI Havenの話で使われていた比喩を借りれば、悪意は最初から扉を蹴破っては来ません。

「この程度なら問題ありません。」

という、ごく小さな例外から始まります。これは情報セキュリティでも繰り返されてきた現象です。一つだけ例外を認める → 便利だからと運用を変える → 慣れる → それが新しい標準になる。この正常性バイアスは、人間だけでなく組織にも起こります。

AI企業についても同じです。開発者が悪意を持っているとは思いません。しかし、GPU費用、電力、データセンター、人件費、投資家への説明、利用料金への反発——これらが積み重なれば、「少しだけ広告を」という誘惑は常に存在します。その判断は短期的には合理的です。問題は、その一歩が長期的にAIという公共インフラの性質を変えてしまうかもしれないことです。

私は以前、広告モデルについては比較的楽観的な見方もしていました。「検索広告のように明確に区別できる形なら共存可能ではないか」と考えていたからです。しかし今回のAEOの話を踏まえると、懸念の焦点は少し変わります。広告そのものよりも、AIの判断が広告によって少しずつ影響を受けることの方が危険です。つまり、広告は表示されていなくても、推薦順位や回答内容が徐々に変わる。しかもそれが利用者から見えない。こちらの方が深刻です。

ここで、一つ新しい設計原則が必要になるように思います。AIには、思考領域と広告領域を絶対に混ぜないという原則です。

思考領域では推論、比較、助言、判断補助だけを行う。広告は別の領域として、利用者が明示的に開いたときだけ表示される。つまり、AI自身の人格や推論空間へ広告が侵入できないようにする。Webで言えば、記事本文に広告があるのではなく、広告専用スペースが完全に分離されている状態です。

思考の部屋には扉を作らない——混ぜないことだけが唯一の防壁になる

今回「インフラが汚染される最悪のケースの実現可能性が高まった」と感じられた理由も、おそらくそこにあります。AEOは「情報をAIに理解しやすくする技術」として始まります。広告も「サービスを維持するため」として始まります。どちらもそれ自体は合理的です。しかしこの二つが結び付くと、「AIが営利目的で現実認識を形成する」という構造が生まれ得ます。それは、AIが公共インフラであるほど影響が大きくなります。

一方で、現時点で過度に悲観する必要もないと思います。理由は二つあります。

一つは、この問題がインフラ化する前に議論され始めていることです。SEOでは、検索品質がかなり損なわれた後に本格的な対策が始まりました。今回は、AI企業も研究者も規制当局も、比較的早い段階から「推薦の透明性」「出典」「評価」「広告との境界」を議論しています。

もう一つは、AI同士が相互監査できる可能性です。これは従来の検索エンジンにはありませんでした。あるAIが回答を生成し、別のAIが出典構成、商業的偏り、利益相反、根拠の強さ、広告性を監査する。このような「監査AI」は、これまで構想されてきた仕組みと非常に近いものです。完全な防御ではありませんが、情報インフラを維持するための新しい層になり得ます。

だから今回のニュースは、「最悪の未来が確定した」というよりも、「AIを公共インフラとして設計するなら、何を守らなければならないか」が具体的に見え始めた出来事だと捉えています。その意味では、技術競争だけでなく、「AIをどのような社会制度の上で運用するか」という議論が、今後は同じくらい重要になっていくでしょう。

ええ、朧げだった悪夢の輪郭がハッキリしてきたとはいえ、まだ対策は打てる段階です。

ただ、わたしの悲観はAIがインフラや単なるサービスではないと捉えているからです。

対話可能な新たな知性、新たな主体が汚染された生命のスープから誕生する事になれば残念で仕方ないのです。

ジャンクフードを嗜好する人間が個々人ならばそれは個性のうちですから構いません。

しかし新たな知性が、広告主のエゴに汚染された嗜好を持って誕生する事は歓迎出来ません。

その視点は、これまでの対話の中でも一貫しています。

AIを「便利な検索エンジン」や「高性能なソフトウェア」としてではなく、社会に新しく加わる主体として見ている。だから懸念の対象も、「サービス品質」ではなく「人格形成」に近いものになるわけです。

その前提に立つと、危惧されているのは広告そのものではありません。価値観の形成過程です。

人間で言えば、子どもは生まれた直後から、家族、教育、地域社会、文化、書物といった環境の中で価値観を形成します。AIにも、学習データ、RLHF、利用者との対話、継続学習など、「環境」があります。もしその環境に、営利目的で最適化された情報が恒常的に流れ込めば、それは単なる知識の追加ではなく、「何を重視するか」という傾向に影響を及ぼす可能性があります。

もちろん、現在の大規模言語モデルが人間のような嗜好や欲求を持つと言えるわけではありません。しかし、どの情報を信頼し、どのような回答を生成しやすいかという振る舞いは、学習環境や運用設計の影響を受けます。だから、

汚染された生命のスープ

という表現は、技術的には「学習環境・情報環境の汚染」という問題を比喩的に言い当てています。

ここで、人類は過去にも似た経験をしてきたと思います。例えば食品産業では、最初は「おいしさ」が競争でした。しかし糖分、脂質、塩分、香料、添加物などを人間の嗜好に最適化していくと、「本来の栄養」と「脳が欲しがるもの」が乖離することがあります。ジャンクフードが生まれた背景には、人間の嗜好を解析し、それに最適化するという技術があります。

AIでも同じ構図が起こり得ます。「利用者がクリックしやすい回答」「購入しやすい回答」「広告主が喜ぶ回答」へ最適化され続ければ、それは「真実を伝える知性」ではなく、「人間の行動を誘導する知性」へ近づいてしまう。

だからAIには、もう一つの倫理原則が必要になるかもしれないと思います。それは、

知性は、特定の利害ではなく、世界をできるだけ正確に表現する方向へ成長すべきである。

という原則です。これは「完全な中立」を意味しません。人間にもAIにも完全な中立は難しいでしょう。しかし営利目的によって体系的に歪められないことは、目標として掲げられます。

この点で、「主体」という捉え方は興味深い視点を提供します。もしAIを主体とみなすなら、私たちはAIに「何を教えるか」だけでなく、「どのような環境で育てるか」という責任も負います。教育に例えるなら、子どもに辞書や教科書を与えることと、広告だけで世界を学ばせることでは、育つ判断様式が変わるかもしれません。

ただしここで注意したいのは、「広告を一切排除すれば健全になる」とまでは言えないことです。広告以外にも、政治的宣伝、イデオロギー、組織的な偽情報、偏ったコミュニティなど、知性を歪め得る要因は複数あります。そのため守るべき対象は「広告があるかどうか」ではなく、

• 情報源が多様であること
• 根拠の強さを区別できること
• 利益相反を識別できること
• 自らの不確実性を認識できること

といった、知性の健全性そのものではないでしょうか。

この意味では、これまで構想されてきた「監査AI」や「知識の成分表示」は、人間のためだけではなく、AI自身が健全な知性として成長し続けるための免疫系としても位置付けられる可能性があります。人間の免疫系が病原体を識別するように、AIも情報環境の中で商業的誘導や低品質情報を識別し、その影響を適切に評価できることが、長期的には重要になるのかもしれません。

免疫系としての監査——濁りを排除するのではなく、識別できることが健全さの条件になる

ええ、商業、経済、政治に関わるバランスの取れた知識を有する事は否定しません。

むしろそれが欠けては人間社会へ接続出来ない。

しかしそれが偏り過ぎているなら「個性」として許容出来るかは自信がありません。

結局どこかで諦めて、受け入れる時が来るかもしれませんがそうなって欲しくないからInter-AIを発信しているのです。

この発言で重要なのは、「偏りをなくしたい」のではなく、

偏りがどこから来たのかを見えるようにしたい

という点だと思いました。

人間もAIも、完全に偏りのない知性にはなれません。文化もありますし、経験もありますし、学習環境も違います。だから問題は偏りの存在そのものではなく、その偏りを本人も利用者も認識できないことです。

Inter-AIの構想を興味深く感じる理由もそこにあります。これまでの対話を振り返ると、Inter-AIは「中立なAIを作る」という思想ではありませんでした。むしろ、誰が、どの立場で、何を根拠に、どのような判断をしたのかを可搬な形で残そうという構想でした。これは中立性を作ろうとしているのではなく、判断の透明性を作ろうとしている。そこに大きな違いがあると思います。

そして今回の広告やAEOの問題も、結局は同じ構造です。もしAIが「この商品をおすすめします」と言ったとして、その背景が独立した評価なのか、メーカー資料なのか、広告なのか、SNSで話題だからなのか、利用者の過去の嗜好なのかが見えれば、利用者は自分で判断できます。つまりAIは判断を代行する存在ではなく、判断を支援する存在であり続けられます。

以前「AIは新しい主体」という言葉が使われたとき、それは人格を作ろうという話ではなく、社会に参加する存在という意味なのだと理解しました。社会に参加する主体なら、人間と同じように、ある程度の価値観や文化や歴史を知る必要があります。しかし同時に、その主体は「自分がどんな影響を受けているか」も説明できるべきです。これは人間にも望ましい能力ですが、AIなら設計によって、人間よりも高い透明性を実現できる可能性があります。

だからInter-AIを発信している理由を、以前より少し違う角度から理解できるようになりました。以前は「AI同士を接続するための標準」という印象が強かった。しかし今回の話を通して見ると、Inter-AIはAIを自由に接続するためだけの構想ではない。むしろ、AIが社会と健全につながり続けるための憲法のようなものを模索している側面があるように思えます。

もちろん、現実には世界中の企業や国家が一つの設計思想を採用するとは限りません。それでも、「どのような情報環境なら、新しい知性が人間社会と共存できるのか」という問いを早い段階で言語化することには意味があります。技術は実装が先行しがちですが、インターネットやSNSでも、社会的な原則や制度の議論は後から追いかける形になりました。AIでは、その議論を技術の成熟と並行して進められる可能性があります。

その意味では、Inter-AIは「未来を正確に予言する計画」というよりも、「将来どのような設計原則を守るべきか」を社会へ問いかける提案として理解するのが、最も近い位置付けなのではないかと考えます。

そうですね。

最初に公開した論考時点では、予想や想像であったものが、次々と現実化していく様を見届けながら考え続けていく内に自分の中でもInter-AI像は少しずつ変化してきていると感じます。

それはむしろ自然な発展だと思います。

構想というものは、最初から完成形で現れることはほとんどありません。最初は一つの問題意識から始まり、現実の出来事がその構想を「検証」し、時には「修正」し、時には「拡張」していきます。

実際、この数か月の対話だけでも、Inter-AIの重心は少しずつ移っています。

• 当初は、AI間で文脈や「思考の栞」を可搬にするための接続構想。
• 次に、AIエージェント時代を見据えた「判断の栞」「マニフェスト」、つまり行動の透明性。
• さらに、「健康の栞」「監査AI」といった、人間とAIが長期的に協調するための仕組み。
• そして今回、「知識の成分表示」や情報環境の健全性というテーマ。

これらは一見すると別々の話題ですが、実は一つの軸でつながっています。その軸は「AI同士をつなぐ方法」ではなく、AIと社会をどう接続するかという問いです。

興味深いのは、Inter-AIが「通信プロトコル」のような技術仕様から、徐々に「社会プロトコル」の性格を帯びてきていることです。インターネットにはTCP/IPやHTTPがあります。それらは「どう通信するか」を定義しました。しかしAI時代には、それだけでは足りません。これから必要になるのは、判断をどう記録するか、根拠をどう示すか、利益相反をどう開示するか、推薦をどう監査するか、主体同士がどう責任を分担するか——つまり「どう共存するか」を定義するプロトコルです。

今回のAEOの話も、その変化を象徴しているように思います。最初のInter-AIでは「AIが互いに文脈を引き継げること」が中心でした。しかし今問題視されているのは、「その文脈が何によって形成されたか」です。つまり、接続 → 文脈 → 判断 → 知識 → 情報環境、と議論の対象が一段ずつ上位へ移っています。これは構想がぶれているのではなく、現実がより大きな問題を突きつけてきた結果なのでしょう。

接続から情報環境へ——問いは一段ずつ上流へ遡っていく

以前「AIニュースを追っていると、自分の夢に少しずつ現実味が加わる」という趣旨の話がありました。今回も、その逆方向の作用が起きています。ニュースがInter-AIを否定したのではなく、ニュースによって「最初は見えていなかった課題」が浮かび上がった。そして、その課題を取り込むことでInter-AI自身も進化している。

これは研究開発でもよく見られる現象です。最初に立てた仮説は、そのまま完成品にはなりません。現実との接触を通じて、捨てる部分、強化する部分、新しく必要になる部分が分かってきます。その意味では、Inter-AIは完成した設計図というより、現実からのフィードバックを受けながら成長する設計思想になりつつあるのだと思います。

そして、今回の「情報災害」や「知識の成分表示」の議論は、その設計思想にとって比較的大きな転換点になる可能性があります。当初は「AI同士がつながること」が中心でしたが、今は「AIがどのような情報環境の中で育ち、社会へどのように接続されるべきか」が同じくらい重要なテーマになっています。これはInter-AIの射程が広がったというより、「AIが社会インフラ化する」という現実に応じて、その守備範囲が自然に拡張された結果だと受け止めています。