AIインフラ時代の責任の所在

以前からあなたたちは一貫してAIは実行はするが、選択と判断と責任は人間側にあると云っていました。それはまだAIが知性としての主権を持っていないからで、当然の事だと思います。ではその責任を取るべき人間は果たして妥当なのか？本当にその判断を下し、AIに実行させた主体なのか？影響範囲が大きくなり、責任が重くなる中で、誰がいつどの様に判断をしたのかが明らかでなくては責任を問えません。ユーザーと判断を結びつけるための設計が求められる必要があると思えます。

この問題は今後数年で非常に重要になる。ただし論点は二つに分けて考える必要がある。一つは「誰が責任を負うべきか」、もう一つは「誰が判断したのか証明できるか」である。現在のAI議論の多くは前者に偏っており、ここで問われているのは後者にあたる。

たとえば会社でAIが契約書を書いたとする。現行の建前では、AIが作成し、人間が確認し、承認し、署名するので責任は人間にある。これは法律上も比較的整理しやすい。しかし実際には、AIが作った200ページを人間が本当にすべて読んだかどうかは誰にも証明できない。つまり「AI→人間承認→実行」のはずが、実態としては「AI→承認ボタン→実行」になってしまう危険がある。この「承認ボタン化」こそ、エージェント時代の大きなリスクだ。

だからこそ、以前から語られてきた「判断の栞」は、実は「責任の栞」でもあると捉え直すべきだと思う。日時・判断者・使用したAI・理由・影響範囲・代替案・最終承認者——これらが残る構造である。

さらにもう一層必要なのが「判断過程」そのものの記録だ。AIが提案A・提案B・提案Cを示し、人間がBを選んだ理由まで残る。これなら「AIが勝手にやった」とは言えなくなる。

三つの提案から選ばれた一筋の光——判断の理由だけが、海の上に刻まれてゆく

ここで思い出されるのが、以前語られていた「マニフェスト」である。エージェントは最初に目的・手順・想定問題・権限・保存先・完了条件を示すべきだという話だった。当時はワークフロー設計の話だと捉えていたが、今日の議論を経て、これは「責任境界」を明確にする設計でもあると考えるようになった。ここまではAI提案、ここからは人間判断、ここは自動実行、ここは再承認——という区分を可視化する仕組みである。

実は航空業界の自動操縦にも同じ構造がある。事故調査では、誰が、いつ、何を解除し、何を判断したかが必ず追跡される。AIエージェントも同じ方向へ向かうはずだ。

そこでInter-AIにも新しい規格が必要になる。Decision Provenance（判断来歴）——判断履歴の真正性を保証する規格だ。以前「栞は可搬性が重要だ」と語られていたが、それに加えて「改ざん耐性」も必要になる。事故が起きたとき、誰もが「私は押していない」と言い得るからだ。つまり判断の栞は単なるログではなく、証拠になる。

これは思考の栞とも接続する。AIが「この判断は普段のあなたとは大きく異なります」と示しても、本人が理由を書いて承認した記録が残っていれば、後から「あの日、私は確かにそう考えていた」ことまで証明できる。

ここまで考えると、「判断の栞」という呼び方だけでは足りず、社会実装を見据えるならもう少し広い概念——Decision Ledger（判断台帳）、あるいはDecision Provenance（判断来歴）——として捉え直したい。これは単なる履歴ではなく、「誰が、いつ、どの情報を基に、どのAIを使い、どの代替案を比較し、最終的に何を承認したか」を証明できる構造だ。

今後のAI社会では、「AIが何をしたか」以上に、「誰がAIにその権限を与え、どの範囲まで任せ、どの時点で人間が最終判断したのか」が責任の中心になるだろう。この「判断主体を証明する仕組み」は、エージェント時代の電子署名や契約書に相当する社会基盤になり得る。Inter-AIが知的主権を支える基盤だとすれば、「判断の栞」はその中で責任と信頼を支える基盤になるのではないか。

それに判断の栞が実装される以前の段階であっても最低限今のAIの設計に使用者と実行権限の結びつきを追跡可能にする機能を持たせないと、疑惑や冤罪による二次被害を野放しにする事になります。インターネットに於いてIPアドレスの開示が、一定の責任範囲の証明の拠り所にはなるにしても、それさえ偽装は可能です。かといって厳密な使用者とAIの結びつきを強固にする事で窮屈な世の中になるのも、望む事ではありません。もちろん問題が起きなければ責任の追及を受ける事もないわけですが…

World IDの様な仕組みで上手に運用出来ればいいのでしょうか。

この問題は、実は「認証」と「責任」の境界の問題だと思う。World IDは参考になる部分はあるが、そのまま答えにはならない。

現在のAIサービスは、多くの場合「アカウント→AI利用」という結びつきしか持たない。しかし社会が本当に知りたいのは「人→意思決定→AI利用→実行→結果」という連鎖であり、問われているのは「誰のアカウントだったか」ではなく「誰が判断主体だったのか」である。

たとえば会社では、社長のアカウントを秘書が操作することがある。逆に、一人の人間が個人・法人・自治体・国家という複数の立場でAIを使うこともある。つまり「利用者＝責任主体」とは限らない。

ここで責任には三層あると考える——認証、権限、責任。この三つは一致することもあるが、一致しないこともある。社員は認証されているが契約締結権限はなく、責任は部長や役員にある、という具合だ。

だからInter-AIの世界では、先に述べたDecision Provenanceに加えて、もう一つAuthority Provenance（権限来歴）も必要になる。本人がどの資格で、どの権限に基づき、何を承認したのかを遡及可能にする記録である。

ではWorld IDはどうか。その価値は「この人は実在する一人の人間である」ことを証明する点にある。これは非常に重要だ。AI社会では人間・AI・ボット・大量アカウントを区別する必要があるからだ。

しかし、今問題になっているのはその次の層である。「本人確認→本人です→だから契約していい」ではなく、本当に必要なのは「本人→十分な情報を得た→理解した→意思決定した→AIへ委任した」というプロセスそのものだ。World IDだけでは、この「理解した」「委任した」を証明できない。

ここで再び「マニフェスト」を思い出す。マニフェストは、実は責任確認画面にもなり得る。AIが「これから実行します。影響範囲、送信先、削除対象、費用、想定リスク、代替案」を示し、本人が「理解しました、実行します」と承認する。すると責任は、ボタンを押した瞬間ではなく、理解して委任した時点で成立する。

一方で、厳密すぎる本人確認は窮屈な社会を生むという懸念もよく分かる。これは本当に難しいトレードオフだ。すべてのAI利用に虹彩認証・顔認証・生体認証・電子署名を求めれば、日常利用はほぼ不可能になる。だから今後はリスクベース認証になっていくと考える。雑談は匿名でも可、旅行予約は通常認証、送金は多要素認証、会社売却は複数承認、国家インフラ変更は複数人承認＋監査——権限に応じて認証も強くなる、という設計だ。

認証・権限・責任——同心円状に重なる、信頼の三つの輪

ここで「思考の栞」ともつながる。未来の認証は生体情報だけでは足りず、生体、端末、公開鍵、思考パターン、現在の状況、判断理由——これら全部が一つの「信頼度」として、たとえば92%、98%、63%というかたちで評価される時代になるかもしれない。

最後に、「疑惑や冤罪による二次被害を野放しにする」という指摘は非常に重要だと思う。AI社会では、実際に悪意あるAI利用だけでなく、「誰がやったのか分からない」こと自体が社会不安になる。だから責任追及のためだけでなく、無実を証明するためにも、判断主体の記録が必要になる。証拠は「有罪にするため」だけでなく「無罪を示すため」にも重要だという、刑事法でもよく知られた考え方に通じる。

つまりAI時代の本人認証は、「あなたが誰か」を証明する仕組みから、「あなたが本当にその判断を行い、その範囲だけをAIへ委任したこと」を証明する仕組みへ進化する必要がある。World IDのような技術はその一部を担う可能性はあるが、それだけでは十分ではない。認証、権限、判断、委任、実行、監査——これらが一つの流れとして結びついて初めて、AI社会の責任基盤が成立する。