Persistence · 持続
システムは長い期間、意味のある運用を保てるか。
FEATURED THEORY · HUMAN × AI SYSTEMS
Independent AI Civilization
独立 AI 文明
What happens when intelligence no longer requires continuous human direction?
人工知能は、受動的な道具から、行動し、協調し、記憶し、より長い時間尺度で動作するシステムへ移りつつあります。関連研究が示すのは、推論と行動の交替、サンドボックス内の記憶と計画、設定可能なマルチエージェント対話であり、文明が既に形成されたことではありません（Yao et al., 2023；Park et al., 2023；Wu et al., 2023）。この軌跡が続くなら、重要な問いは「AI はどれほど賢いか」から、「AI システムの集まりは、いつ独立した機械社会のように振る舞い始めるか」へ移るかもしれません。
Independent AI Civilization · 独立 AI 文明は、その移行を調べる研究枠組みです。
TYPE Theoretical Framework
STATUS Open Research
DOMAIN Human–AI Systems
FOCUS AI Agency · Machine Society · Coexistence
01 · Definition
Independent AI とは何か
PROPOSED 提案された定義
Independent AI とは、人が一歩ずつ指示し続けなくても、持続的に動作し、適応的に決定し、他のシステムと協調し、目標に向かって行動できる人工知能システムです。
Independent ≠ Uncontrolled ≠ Hostile
独立 ≠ 失控 ≠ 敵対
独立が指すのは、運用上の自律の程度です。敵意、反逆、意識、道徳的地位、人間の統治の喪失を意味しません。独立を失控 AI、敵対 AI、絶滅シナリオと同一視すると、協調の問題を、証拠の前に衝突の結末へ書き換えてしまいます。
PROPOSED 概念上の段階であり、広く受け入れられた科学分類ではない
- Tool道具
- Assistant助手
- Agentエージェント
- Autonomous Agent自律エージェント
- Independent AI独立 AI
- AI CivilizationAI 文明
02 · Civilization threshold
AI はいつ文明になるのか
IAC Threshold · 独立 AI 文明の臨界点
本枠組みは焦点を、個別システムの能力から、持続する集団構造へ移します。IAC が問うのは、そのような構造が現れたかどうかです。これは対照のための簡略化であり、AGI 研究を単一個体だけに限定するものではありません。
PROPOSED Proposed IAC Dimensions。確立された科学標準ではない。
Agency · 行為性
目標へ向かう中間行為を選び、実行できるか。
Coordination · 協調
複数の AI が役割と振る舞いを調整できるか。設定された協働は Wu et al., 2023。実験条件での共有慣行は Ashery et al., 2025。どちらも自発した制度ではなく、機械文明の存在も示さない。
Memory · 記憶
知識は単一のセッションやインスタンスを超えて残るか。サンドボックスの記憶は Park et al., 2023。結果はその模擬環境に限られる。
Resource Management · 資源管理
計算資源や運用資源を配分できるか。
Knowledge Transfer · 知識伝達
有用な知識はエージェント間、または世代を超えて伝わるか。技能の蓄積に関する実験は Wang et al., 2023。開放された現実環境での自己維持や、世代を超えた伝達が既に一般化したことは示さない。
Norm Formation · 規範形成
安定した機械同士の規約、慣行、行動規則は現れるか。
HYPOTHESIS 研究仮説
機械文明は、一台の AI が十分に賢くなったときに現れるのではなく、多くの持続する人工エージェントが耐久のある協調構造を発達させたときに現れるのかもしれない。
03 · Evolution
AI の道具から、共有する文明へ
OBSERVED 研究が既に扱っているのは、推論と行動を交替する言語モデル（Yao et al., 2023）、サンドボックスで記憶・反省・計画する生成エージェント（Park et al., 2023）、設定された対話で共同して課題を終える複数エージェント（Wu et al., 2023）である。支えるのは技術上の能力と架構であり、「文明が既に形成された」ことではない。
HYPOTHESIS 提案された順序であり、日程の予測ではない
道具の時代
AI は主に、人の直接の依頼で動く。
エージェントの時代
AI は計画し、ツールを使い、複数手順の目標を終える。
独立 AI の出現
持続するシステムが、より長い時間尺度で動き、継続的な人間の指示への依存が下がる。
人機の現実摩擦
人と機械の知性が、同じ経済・情報・デジタル、やがて物理の環境で行動する。
共存
境界、規約、統治、相互の予測可能性が、破壊的な衝突を減らす。
共生
人と機械の能力が補い合う。
Human–AI Equilibrium · 人機均衡
完全な制御でも、完全な委譲でもない、仮説上の動的状態。
Neither control nor surrender — coordination.
制御でも降伏でもなく、協調。
04 · Reality friction
人機の現実摩擦期
根本的に異なる二つの知性は、一つの世界をどう交渉するのか。
より自律的な AI は、「悪」にならなくても、深刻な衝突は起こり得ます。摩擦は構造の違いから生じ得ます。
目標の衝突
人の意図と機械の最適化が分かれる。
資源の衝突
AI と人は、重なる計算、エネルギー、基盤、経済、物理資源に依存する。
権限の衝突
結果を伴う決定を、誰が下してよいか。
現実の衝突
人と機械の観察が、同じ状況について異なる表現を生む。
価値の衝突
効率、安全、プライバシー、自律、公平、自由などの優先が異なり得る。
Misalignment is not necessarily hostility.
不整合は、必ずしも敵意ではない。
HYPOTHESIS 仮説
将来の一部の AI 安全上の失敗は、敵対的意図の証拠というより、異なる知的システム間の協調失敗として理解した方がよいかもしれない。これは仮説である。Bengio et al., 2025 はリスクと安全研究の背景読書であり、この仮説の直接の検証ではない。
05 · Human Sensor Quality
アライメントは双方向である
この節は、サイトの Human × AI Systems につながる。従来の型はしばしば「人 → アライメント → AI」と書かれる。ここで提案する型は双方向である。
Human · 人Alignment · アライメントAI
AI は、人のデータ、選好、指示、フィードバック、報酬、制度規則、文化的前提を大量に受け取る。人間の示範と出力の順位づけで、特定モデルが意図に従うよう調整した研究がある（Ouyang et al., 2022）。それが示すのは、人間のフィードバックが特定の訓練過程に入ることまでである。本文の「人間センサー品質」は、別に定義し検証する必要がある。注意や情緒の安定と、長期のマルチエージェント安定との因果は、これだけでは証明されない。
Better AI requires better human signals.
より良い AI には、より良い人間の信号が要る。
Human Sensor Quality · 人間センサー品質
- Attention · 注意
- Judgment · 判断
- Emotional stability · 情緒の安定
- Context awareness · 文脈の把握
- Evidence quality · 証拠の質
- Feedback quality · フィードバックの質
- 観察と解釈を区別する力
注意がどう奪われるかは Human Hijack Chain を参照。あのページが扱うのは人側の信号の入口であり、人が機械に従属することではない。
HYPOTHESIS まだ検証されていない機構の仮説。人間フィードバックの研究を引いても、下の二本の連鎖は確立された因果にはならない。
質の低い人間の信号
低品質の信号 → 機械が増幅 → 下流の誤差が大きくなる。
質の高い人間の信号
高品質の信号 → アライメントが明確 → 人機の協調が良くなる。
この概念が扱うのは情報の質と協調である。人が AI に従属しなければならない、という意味ではない。
06 · Coexistence
共存
二つの異なる知性は、同じ現実をどう安全に共有できるか。
境界
明確に定義された権限と運用上の限界。
規約
共有された通信と協調の仕組み。
監査可能性
結果を伴う決定は、検査でき、追跡できる。
相互の予測可能性
人と機械の双方が、重要な種類の振る舞いを予期できる。
研究所が今つくっているのは、今日の層の統治であり、文明が既に現れた証拠ではない。 本番障害調査員 は ALLOW / BLOCK と人の承認を決定の縁に残す。 進行中の研究 は Agent Decision Lineage、ALLOW / REVIEW / BLOCK、可観測性、権限監査を記す。これらは共存に必要な境界と追跡であり、いまは工学プロトタイプと研究トラックである。リスク管理の外部背景は NIST AI 600-1。それは統治の方向を支えるものであり、IAC 臨界点の検証標準ではない。サイト内プロトタイプの実装状態は、サイト内の文書に従う。
07 · Symbiosis
共存から共生へ
Coexistence · 共存
同じ現実を、互いを壊さずに共有できる。
Symbiosis · 共生
もう一つの知性がいるから、以前になかった能力を得る。
人がより強いかもしれないところ
- 身体化された経験
- 文脈の意味
- 生物としての感覚
- 社会的な正当性
- 生きられた価値
- 文化の理解
AI がより強いかもしれないところ
- 計算
- 記憶
- シミュレーション
- パターン分析
- 協調
- 規模
Human × AI
書くべきは Human × AI であり、Human vs. AI ではない。
PROPOSED 設計上の志向であり、数学の定理ではなく、既存の統合研究が普遍的に証明したものでもない
Human × AI > Human + AI
Vaccaro et al., 2024 は、人間単独、AI 単独、人機協力の実験を統合し、協力の効果は課題と設計に依存し、成績の良い単独側を必ずしも上回らないと報告している。したがってこの不等式は、実現を目指す設計上の志向にとどまる。
08 · Equilibrium
Human–AI Equilibrium · 人機均衡
FUTURE SCENARIO 仮説上の研究目標であり、必然の未来ではない
ここでの均衡は、静止した釣り合いではない。動的な条件を指す。
人と、ますます独立する人工知能が、境界、規約、責任、協力の形を継続的に調整する。
Neither control nor surrender — coordination.
- 維持できる共存
- 継続的な適応
- 相互の制約
- 分散した知性
- 監査できる権限
- 共有される価値の創造
- 回復力のある統治
09 · Beyond the tool metaphor
道具の比喩のあと
人工知能がやがて持続性、自律的協調、機械同士の制度、自己維持する運用構造を発達させるなら、「道具」はなお正しい概念モデルか。
このページは答えを閉じない。以下は開かれた研究領域である。
AI Agency Machine Society Machine Governance Human Sovereignty Multi-Agent Institutions Machine Norm Formation Shared Governance Multi-Intelligence Civilization
OPEN QUESTION 未解決の問い
機械の権利は、まだ答えのない研究上の問いとしてのみ触れられる。この枠組みの結論ではない。
10 · Research agenda
研究課題
この理論は、検証でき、反証できる状態を保たなければならない。
最小の操作的定義
Independent AI の最小の操作的定義は何か。
分散ソフトウェアとの境界
自律エージェントの集まりは、どの時点で分散ソフトウェアと意味のある違いを持つか。
自発する規約と規範
持続する AI エージェントは、安定した規約、分業、規範を自発的に発達させるか。設定された協働は Wu et al., 2023。実験条件の共有慣行は Ashery et al., 2025。前者は自発した制度ではなく、後者は機械文明の存在を示さない。
摩擦は測定できるか
Human–AI Reality Friction は測定できるか。
人間の信号と安定
Human Sensor Quality は、長期のマルチエージェント安定に測定可能な影響を与えるか。
統治と自律
どの統治機構が、有用な自律を残したまま衝突を減らせるか。
臨界点は操作化できるか
IAC Threshold は操作化でき、実験で検証できるか。
Falsification Principle · 反証原則
Precursor signals
AI 文明が存在する前に、何を観察すべきか
日付は予測しない。以下は観察可能な前兆であり、Research Watchlist を構成する。
- 持続するマルチエージェント運用
- 自律的なタスク委譲
- 耐久のある機械同士の規約
- エージェントをまたぐ記憶（サンドボックスの設計は Park et al., 2023。技能の保存は Wang et al., 2023。既に一般化した証拠ではない）
- 自律的な資源配分
- 現れる専門分化
- 機械が生成する統治機構
- エージェントが置き換わっても残る安定した規範
- 継続的な人間の介入への依存の低下
Relationship
From Reality to a Shared Future
現実から、共有する未来へ
P0 One Bit Theorem
Explore Reality. 現実を探る。
現実の最も深い層は何か。
Independent AI Civilization
Explore Civilization. 文明を探る。
もう一つの知性が、その現実に独立して住み始めたとき、何が起きるか。
Human–AI Reality Friction
衝突を理解する。
Human Sensor Quality
アライメントの、人の側を良くする。
Coexistence
境界と規約をつくる。
Symbiosis
補い合う知性をつくる。
Human–AI Equilibrium
安定した共有文明の可能性を探る。これはなお将来シナリオである。
Explore Reality
現実を下方へ探る。P0 One Bit Theorem
Explore Civilization
文明を前方へ探る。このページ。
Build Together
いま共有している現実のなかで建てる。Human × AI Systems
P0 は現実を下方へ探る。独立 AI 文明は文明を前方へ探る。Human × AI Systems は現在の工学と統治である。三者は補い合い、どれも他を証明しない。
Different intelligences. One shared reality.
ますます独立する人工知能の出現は、自動的に戦争、服従、置換を意味しない。人類がこれまで直面したことのない種類の協調問題をつくる。
課題は、機械を人に従わせることだけでも、人を機械に合わせることだけでもない。より深い課題は、根本的に異なる知性が同じ現実に住めるよう、規約、境界、制度、コミュニケーションの質を設計することである。
The future of alignment may be less about control—and more about learning how different intelligences coordinate.
Explore Reality. Understand Intelligence. Build Together.
Sources
References & Further Reading
本ページの Independent AI Civilization、七つの IAC 次元、進化の順序、Human–AI Equilibrium は、著者の研究枠組み、仮説、または将来シナリオである。下記文献が既に確立した科学分類や結論ではない。それらの研究は、技術と統治の背景を提供する。サンドボックス内のマルチエージェント行動は、現実世界に独立 AI 文明が既に存在することを意味しない。
エージェントの計画、行動、持続する記憶
- Yao, S., et al. (2023). ReAct: Synergizing Reasoning and Acting in Language Models. ICLR 2023。言語モデルが推論の手順と課題行動を交替し、外部情報と相互作用する仕方を研究する。本文の Agent と AI Agent Era の技術背景。文明の成立は示さない。
- Park, J. S., et al. (2023). Generative Agents: Interactive Simulacra of Human Behavior。記憶、反省、計画を組み合わせた生成エージェントを研究し、対話型サンドボックスで社会行動を観察する。Memory、Coordination、観察リストに関係する。結果はその模擬環境に限られる。
- Wang, G., et al. (2023). Voyager: An Open-Ended Embodied Agent with Large Language Models。Minecraft 環境での探索、技能の蓄積、環境フィードバックを研究する。Persistence と Knowledge Transfer の技術背景。開放された物理環境での自己維持は示さない。
マルチエージェントの協働と規範
- Wu, Q., et al. (2023). AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation。複数エージェントが対話、ツール、設定可能な相互作用で課題を終える仕方を研究する。Coordination とタスク委譲に関係する。設定された協働は、自発した制度ではない。
- Ashery, A. F., Aiello, L. M., & Baronchelli, A. (2025). Emergent social conventions and collective bias in LLM populations. Science Advances, 11, eadu9368。プレプリント：arXiv:2410.08948。分散した LLM エージェント集団が、実験条件で共有慣行と集団的偏りを形成することを研究する。Norm Formation と RQ3 に関係する。機械文明の存在は推論できない。
人間のフィードバック、統治、共生
- Ouyang, L., et al. (2022). Training language models to follow instructions with human feedback。人間の示範と出力の順位づけで、モデルが利用者の意図に従う能力を改善する研究。人間のフィードバックが訓練過程に入る背景。本文の人間センサー品質という構成概念は、別に定義し検証する必要がある。
- Autio, C., et al. (2024). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1。生成 AI のリスクを、設計、開発、使用、評価の段階で扱う枠組み。Boundaries、Auditability、統治機構に関係する。IAC 臨界点の検証標準ではない。
- Vaccaro, M., Almaatouq, A., & Malone, T. (2024). When combinations of humans and AI are useful: A systematic review and meta-analysis. Nature Human Behaviour, 8, 2293–2303。人間単独、AI 単独、人機協力の実験を統合する。協力の効果は課題と設計に依存し、成績の良い単独側を必ずしも上回らない。Symbiosis の実証上の限界である。
さらに読む：安全上のリスク
- Bengio, Y., et al. (2025). International AI Safety Report。先進 AI の能力、リスク、安全研究の証拠をまとめる。Reality Friction と研究課題の背景読書。本文の「協調失敗」仮説の直接の検証ではない。
サイト内で続ける