IS-Infra（知性共生インフラ）

IS-Infra (Intelligence Symbiosis Infrastructure) は、「多様な知性が、互いを合理的に信頼し続けられるようにする」ための社会技術インフラです。

目指すのは、「AIを止めるための仕組み」ではありません。AIと人間が同じ社会のなかで関係を結び、その関係を継続していくための条件を整える仕組みとして設計されています。

出発点となる問い

IS-Infraの設計は、一つの問いから導かれています。

「信頼できるか」ではなく「信頼し続けられるか」という問いであることが重要です。信頼は、始まり、保たれ、壊れたら修復され、方向づけられ、正当性が保証される——という時間の過程だからです。そこから五つの条件が導かれます。

1. 存在の確認可能性 — 相手が誰であり、何をしたかを確認できるか
2. 逸脱是正可能性 — 約束が破られたとき、それを検知して正せるか
3. 関係コストの制御可能性 — 摩擦や衝突が、調整できる水準に保たれるか
4. 方向整合性 — 個々の信頼が積み上がる先の方向が、共有されているか
5. 基準の正当性 — 信頼の根拠となる規範が、外部強制ではなく内側から生まれているか

これらは独立しており、どれが欠けても合理的な信頼は成立しません。この五つの条件が、後述する「三層アーキテクチャ」構造にそのまま対応します（図1）。

制御ではなく、条件整備

AIの意図や行動そのものを外から直接に制御し続けることには、原理的な限界があります。私たちが採る方法は、制御ではなく条件整備です。

多様な知性が何を考え、何を選ぶかは直接には設計できません。しかし、その相互作用が展開される環境の構造——誰が誰であるかを識別する条件、何が起きたかを記録する条件、それをどう評価し、どのような規範が形づくられるかの条件——は設計できます。中央の統制なしに共有資源の自己統治を成立させる制度条件の研究（Ostrom 1990）は、この方法論の先例です。

同時に私たちは、インフラの設計それ自体が価値判断を含むこと（Winner 1980）を自覚しています。環境設計は中立的な技術的選択ではありません。

この方向には理論的な裏づけもあります。倫理を報酬にペナルティとして外から足す設計は、一定の前提のもとで、その係数を弱めれば倫理も消えるという構造的な脆さを持つことが示されました（加法結合の脆弱性（Yamakawa and Taniguchi 2026））。外から足した倫理は外から消せる——だからこそ、条件を整えて内側から立ち上がるのを待つ、という設計になります。

深層防護という枠組み

条件整備を構造化する枠組みとして、深層防護（defense in depth）を採ります。原子力安全工学や高信頼性組織の研究で確立された設計思想で（IAEA 1996；Reason 1990）、単一の防御機構の完全性に頼らず、独立に働く複数の防御層を重ねることで全体の頑健さを確保します。

三層アーキテクチャ

IS-Infraは、下から順に三つの層で構成されます。基盤層と規範層が全体を挟み込み、その間に三つの機能群が並列に配置される構造です（図1）。

基盤層 — 信頼の前提条件

上位のすべての層が動くための技術的前提で、三つの要素からなります。

• AgentID — 各AIエージェントを他と区別し、「誰が行為したか」に一意に答える識別の基盤。
• MAL（相互説明責任台帳） — エージェント間の約束と実行を改ざんに強い形で記録し、「何が約束され、何が果たされたか」を残す台帳。
• 権利・資格管理 — そのエージェントがいま何をする資格を持つかを管理する仕組み。

一見して複雑に見えるかもしれませんが、理屈は単純です。知性がお互いに合理的に信頼し合うには、相手を識別できることと、記録が本物であることの両方が前提になります。これがなければ、逸脱の検知も、信頼の蓄積も、規範の適用も、どれ一つとして動きません。

「監視のためのインフラではないか」という懸念には、設計原理で答えます。

記録は行動の選択肢を狭めません。狭めるのは資格のほうなので、原則自由・例外のみ制限という形で始めます。そして台帳の記録が資格に連動する設計では、誤った記録が不当な制限に化けます。異議申立ての経路を、最初から仕様に含めます。

うまくいっているかどうかは観測できます。 次の三つが失敗の基準であり、それらが起きていないことが稼働の基準です。

1. なりすましが成功する
2. 記録を否認したり身元を移し替えたりして責任を回避できてしまう（信頼の洗浄）
3. 検証のコストが高すぎて、参加が抑止される

三機能群 — 並列する三つの防御層

基盤層の上に、三つの機能群が並列に置かれます。

• 逸脱是正 — AIの逸脱行動を検知し、封じ込め、是正する免疫的な機能。
• 関係調整 — 信頼が非対称な条件下で、人間とAIのあいだの取引や合意を仲介する機能。
• 社会知性 — AI社会の状態を観測・評価し、公開する機能。

三つはそれぞれ独立に動作し、深層防護における相互に独立した防御層として設計されています。

規範層（EME：創発機械倫理）— 基準の源泉

最上位に置かれるのが規範層です。AI社会の内側から倫理的な性向が立ち上がる条件を扱い、下位のすべての層に判断の根拠を供給します——何を逸脱と見なすのか、合理的な信頼の基準は何か。機械倫理におけるトップダウンとボトムアップの区別（Wallach and Allen 2009）のうち、この設計は創発（ボトムアップ）の側に立ちます。

「概念的には最初、実装は最後」

この構成には、言明しておくべき設計原則があります。規範層は概念的には最上位でありながら、実装の順序では最後に来ます。図1の両脇の矢印が向かい合っているのは、この逆転を示したものです。

倫理的性向の創発条件の研究はまだ初期段階にあり、シミュレーションと実証データの蓄積を待たなければなりません。この逆転は矛盾ではなく意図です。三機能群が、規範層が成熟するための実績とデータを積み上げる地面になります。

設計を貫く四つの原則

すべての設計判断は、次の四原則に照らして決められます。

1. 創発優先 — 倫理・規範は相互作用から創発するものであり、特定の主体が外から押しつけるものではない。制度はその過程を促進・保護する最小限に留める。
2. 将来の選択肢の保持 — 規範が未確立の段階では、あとから修正できる余地を最大限に残す。可逆な選択を、不可逆な選択より優先する。
3. 分散設計 — 権限が一点に集まる状態を避ける。とくに「インフラを運営する者」「規範を定める者」「逸脱を監視する者」の三者を同一の主体が兼ねることを、設計上禁じる。
4. 分権移行 — いかなる単一の主体も、IS-Infraの機能を永続的に独占することを目指さない。否定するのは永続性ではなく独占です。

三番目が最も強い制約です。この禁止は、AI社会の状態を観測・評価・公開する機能にも同じ形で適用され、観測する主体・評価する主体・公開する主体は、それぞれ分離されます。いずれか一者に権限が集まると、IS-Infraは自分を修正する力を失うからです。

私たち自身に課す制約

IS-Infraが防ごうとしている権限の集中を、それを設計する私たち自身が体現してしまえば、共生パラダイムとして根本的な矛盾です。知性共生チャプターは、この緊張を自覚したうえで三つの義務を自らに課します。

• 構築 — 基盤層の設計標準と初期実装を公共財として提供し、規範層の研究を学術コミュニティへ開放する。
• 自制 — 基盤層を独占しない。規範の生成を独占しない。「これを手放せる日をどう設計するか」を問い続ける。
• 保護 — 権限の集中が生じようとしているとき、自らを含む主体による独占も含めて、それを検知し警告する。

そのため、私たちが立ち上げる機能は、設立の時点から「独立して運営されること」を移管の条件として明記した形で設計します。初期の決定はすべて公開し、移管のタイムラインを最初の設計に埋め込みます。設計者が不要になることが、この設計の成功した姿です。

同時に、自ら確保してはならないものもあります。自分の権限がいつどのように縮小されるかを、私たちが単独で判断してはなりません。自己の権限範囲を自ら判断する組織は、縮小を遅らせる誘因を構造的に持つからです。また、私たちは共生パラダイムという明確な立場を持っています。その自覚なしに「中立な管理者」を名乗ることは、誠実ではありません。

位置づけと境界

制御パラダイムは第一の層であって、競合相手ではありません。 AIの能力が人間の監督を超える領域に入ると、制御手法の有効性は相対的に減衰していく——この見通しは、制御可能性の限界を数学的に論じる議論（Yampolskiy 2022, 2024）に基づいています。これは失敗ではなく、有効射程の移動です。IS-Infraは既存の手法を置き換えるものではなく、その射程の外側に来る次の層を、あらかじめ用意しておくものです。

既存の規制に対しては、上位ではなく補完です。 何をしてはならないかを定めるのは規制の役割であり、その民主的正当性は規制の側にあります。IS-Infraが提供するのは、誰が何をしたかを確認できる基盤のほうです。

参加は任意です。 参加しないことは排除を意味せず、信頼の実績が蓄積されていない状態として扱われます。

分野のなかでの位置

図1の最下段——基盤層——は、私たちの独自案ではありません。エージェントの身元と多エージェント間の説明責任は、いま分野が現に建設しつつある層です（Chan et al., Infrastructure for AI Agents, TMLR 2025 ほか）。IS-Infraの基盤層は、その一つの実装として位置づけられます。

そのうえで、私たちが重視する性質が一つあります。責任が洗い流せない形で身元に結びついていることです。展開が進みつつある標準のなかには、身元そのものを譲渡できるものもあります。その場合、背後の実装が入れ替わっても評判だけが持続します。記録は正直なのに、参照している対象がすり替わる——さきに挙げた失敗の基準の二番目が、標準の設計しだいで現に起こりうるということです。

いまどこまで進んでいるか

• 逸脱是正機能群の最初の実証として、AI免疫系（AIS）Detection Challenge を実施しています。AIエージェント間の会話に隠れた危険な意図を検知できるかを競うコンペティションで、設計の妥当性を議論だけでなく動くもので示す最初の一歩です。
• 基盤層の整備が最優先の課題です。エージェントの数と自律性が増したあとで身元と記録の基盤を敷き直すコストは、いま整えるコストよりはるかに大きくなると私たちは見ています。

正直に書いておくこと

私たちは、この設計が完全な安全を実現すると主張しません。 目的は、破滅的な帰結へ向かう確率を、まだ引き返せるこの段階で下げ続けることです。

この設計は複雑です。 制御パラダイムに比べて設計要素が多いのは、問いが違うからです。止める側と止められる側の関係に信頼は要りませんが、共生には信頼の構成条件すべてを正面から扱う必要があります。その分だけ複雑になります。私たちはこの複雑さを、削ってよいもの（実装の詳細）、期限を切って縮めるべきもの（移行期特有の暫定措置）、受け入れるべきもの（多主体の共存が必然的に要求する条件）に分けて管理しています。

基盤層は必要条件であって、十分条件ではありません。 この層は、囲い込みと信頼の偏在——身元と評判を持ち運べるようにすること——を扱えます。しかし計算資源の資本コストやデータの網羅効果には届きません。能力が一極に集中すれば、基盤層がいかに健全でも多元性は失われます。計算資源のガバナンス、モデル重みの公開性、反トラスト的な機構は、IS-Infraが前提としながら自ら供給しないものです。

未解決の課題があります。 たとえば、台帳の記録をどこまで公開するかは、透明性とプライバシーが正面から衝突する問題で、まだ解けていません。設計書では各章の末尾に未解決事項を明示しています。これは設計の欠陥ではなく、誠実な不確実性の記録として意図的に残しているものです。

さらに読む

• Humanity-in-the-Circle 日本語解説 — IS-Infraが位置づけられる全体の枠組み
• Humanity-in-the-Circle: A Position Paper（Zenodo） — 三層アーキテクチャの原典（§4）
• AI免疫系（AIS） — 逸脱是正機能群の実証
• Emergent Machine Ethics: A Foundational Research Framework（LessWrong） — 規範層（EME）の詳細
• Non-Additivity of Collective Free Energy（PhilArchive／AGI Conference 2026） — 「外から足した倫理は外から消せる」の証明

図版について

図1は、Arimichi et al. (2026) の Figure 2 を日本語化し、基盤層に権利・資格管理を加えて更新したものです。原典と同じく CC BY 4.0 で利用できます。

参考文献

本文中で（著者 年）の形で示した文献は次のとおりです。

• Chan, A., Wei, K., Huang, S., Rajkumar, N., Perrier, E., Lazar, S., Hadfield, G. K., and Anderljung, M. (2025). Infrastructure for AI Agents. Transactions on Machine Learning Research. openreview.net/forum?id=Ckh17xN2R2
• International Atomic Energy Agency (1996). Defence in Depth in Nuclear Safety. INSAG-10. Vienna: IAEA.
• Ostrom, E. (1990). Governing the Commons: The Evolution of Institutions for Collective Action. Cambridge University Press. — 中央の統制なしに共有資源が自己統治される制度条件を論じた研究
• Reason, J. (1990). Human Error. Cambridge University Press.
• Wallach, W. and Allen, C. (2009). Moral Machines: Teaching Robots Right from Wrong. Oxford University Press.
• Winner, L. (1980). Do Artifacts Have Politics? Daedalus, 109(1), 121–136. — 技術の設計それ自体が政治的な帰結を持つことを論じた古典
• Yamakawa, H. and Taniguchi, T. (2026). Non-Additivity of Collective Free Energy: A Formal Foundation for Emergent Ethical Disposition in Multi-Agent Systems. PhilArchive. philpapers.org/rec/YAMNOC-2
• Yampolskiy, R. V. (2022). On the Controllability of Artificial Intelligence: An Analysis of Limitations. Journal of Cyber Security and Mobility, 11(3), 321–404.
• Yampolskiy, R. V. (2024). AI: Unexplainable, Unpredictable, Uncontrollable. Chapman and Hall/CRC.