Persistence · 持續
系統能否在較長時間裡維持有意義的運作？
FEATURED THEORY · HUMAN × AI SYSTEMS
Independent AI Civilization
獨立 AI 文明
What happens when intelligence no longer requires continuous human direction?
人工智慧正從被動工具，走向能夠行動、協調、記住，並在更長時間尺度上運作的系統。相關研究描述的是推理與行動的交替、沙盒中的記憶與規劃，以及可設定的多代理對話，不是已經形成的文明（Yao et al., 2023；Park et al., 2023；Wu et al., 2023）。若這條軌跡持續，重要的問題也許會從「AI 有多聰明？」轉成：「一組 AI 系統，何時開始表現得像一個獨立的機器社會？」
Independent AI Civilization · 獨立 AI 文明，是用來研究這次轉移的框架。
TYPE Theoretical Framework
STATUS Open Research
DOMAIN Human–AI Systems
FOCUS AI Agency · Machine Society · Coexistence
01 · Definition
什麼是 Independent AI？
PROPOSED 提議定義
Independent AI 是一套人工智慧系統：它能夠持續運作、做適應性決策、與其他系統協調，並朝目標採取行動，而不需要人逐步下達每一道指令。
Independent ≠ Uncontrolled ≠ Hostile
獨立 ≠ 失控 ≠ 敵對
獨立描述的是運作自主的程度。它不表示敵意、叛離、意識、道德地位，也不表示人類治理已經消失。把獨立自動說成失控 AI、敵對 AI 或滅絕劇本，會把一個協調問題提前寫成衝突結局。
PROPOSED 概念階段，不是已被普遍接受的科學分類
- Tool工具
- Assistant助手
- Agent代理
- Autonomous Agent自主代理
- Independent AI獨立 AI
- AI CivilizationAI 文明
02 · Civilization threshold
AI 何時算是一種文明？
IAC Threshold · 獨立 AI 文明臨界點
本框架將焦點從個別系統能力，移向持久的集體結構。IAC 問的是：這樣的結構是否出現。這是對照用的簡化表述，不是把 AGI 研究界定成只關心單一個體。
PROPOSED Proposed IAC Dimensions · 提議中的維度，不是既成科學標準
Agency · 能動
它能否選擇並執行朝向目標的中間行動？
Coordination · 協調
多個 AI 系統能否分工、對齊行為？可設定的協作流程見 Wu et al., 2023；實驗條件下的共享慣例見 Ashery et al., 2025。兩者都不等於自發形成的制度，也不能推論機器文明已存在。
Memory · 記憶
知識能否跨越單次會話或單一實例留下來？沙盒中的記憶見 Park et al., 2023。結果限於該模擬環境。
Resource Management · 資源管理
系統能否配置計算或運作資源？
Knowledge Transfer · 知識傳遞
有用的知識能否在代理之間，或跨世代傳遞？技能累積的相關實驗見 Wang et al., 2023。這不證明代理能在開放的現實環境中自我維持，也不表示跨世代傳遞已普遍實現。
Norm Formation · 規範形成
穩定的機器對機器協定、慣例或行為規則能否出現？
HYPOTHESIS 研究假說
機器文明也許不是在「一台 AI 夠聰明」時出現，而是在許多持久的人工代理發展出耐久的協調結構時出現。
03 · Evolution
從 AI 工具到共享文明
OBSERVED 已觀察的研究方向：語言模型可以交替產生推理與行動（Yao et al., 2023），生成式代理可以在沙盒中記憶、反思與規劃（Park et al., 2023），多個代理可以依設定的對話流程共同完成任務（Wu et al., 2023）。這些支持的是技術能力與架構，不是「已形成文明」。
HYPOTHESIS 提議中的演化序列，不是預測時程
工具時代
AI 主要依人的直接請求運作。
代理時代
AI 開始規劃、使用工具，並完成多步驟目標。
獨立 AI 浮現
持久系統在更長時間尺度上運作，對持續人為指令的需要下降。
人機現實磨合
人類智能與機器智能愈來愈常在同一套經濟、資訊、數位，最終也包括實體的環境裡行動。
共存
邊界、協定、治理與相互可預期性，降低毀滅性衝突。
共生
人與機器的能力變成互補。
Human–AI Equilibrium · 人機平衡
一個假設性的動態狀態：關係既不是完全控制，也不是完全交出。
Neither control nor surrender — coordination.
不是控制，也不是投降，而是協調。
04 · Reality friction
人機現實磨合期
兩種根本不同的智能，如何協商同一個世界？
愈來愈自主的 AI，不必先變成「邪惡」，嚴重的衝突就可能出現。磨合可以來自結構差異。
目標衝突
人的意圖與機器的最佳化分道。
資源衝突
AI 與人依賴重疊的計算、能源、基礎設施、經濟或實體資源。
權限衝突
誰有權做帶來後果的決定？
現實衝突
人的觀察與機器的觀察，對同一情境給出不同表徵。
價值衝突
效率、安全、隱私、自主、公平、自由等目標，可能得到不同的優先順序。
Misalignment is not necessarily hostility.
失準不一定是敵意。
HYPOTHESIS 假說
某些未來的 AI 安全失敗，也許更適合理解成不同智能系統之間的協調失敗，而不是敵對意圖的證據。這是假說。Bengio et al., 2025 可作為風險與安全研究的背景閱讀，不構成這則假說的直接驗證。
05 · Human Sensor Quality
對齊是雙向的
這一節接上本站的 Human × AI Systems。傳統模型常寫成：人 → 對齊 → AI。這裡提議的模型是雙向的。
Human · 人 Alignment · 對齊 AI
AI 系統接收大量人類資料、偏好、指令、回饋、獎勵、制度規則與文化假設。以人類示範與輸出排序改善模型遵循意圖，已有具體訓練研究（Ouyang et al., 2022）。該研究只能說明人類回饋會進入特定模型的調整流程。本文的「人類感知器品質」仍需另行定義與驗證，不能直接證明注意力或情緒穩定與長期多代理穩定有因果關係。
Better AI requires better human signals.
更好的 AI，需要更好的人類訊號。
Human Sensor Quality · 人類感知器品質
- Attention · 注意力
- Judgment · 判斷
- Emotional stability · 情緒穩定
- Context awareness · 情境覺察
- Evidence quality · 證據品質
- Feedback quality · 回饋品質
- 區分觀察與詮釋的能力
注意力如何被帶走，見 人類劫持鏈 · Human Hijack Chain。那一頁處理的是人這一側的訊號入口，不是要求人服從機器。
HYPOTHESIS 待檢驗的機制假說。引用人類回饋研究，並不使下面兩條鏈成為已證實的因果。
低品質人類訊號
低品質訊號 → 機器放大 → 下游誤差變大。
高品質人類訊號
高品質訊號 → 對齊更清楚 → 人機協調更好。
這個概念談的是資訊品質與協調。它不表示人必須變成 AI 的從屬。
06 · Coexistence
共存
兩種不同的智能，如何安全地共享同一個現實？
邊界
清楚定義的權限與運作限制。
協定
共享的溝通與協調機制。
可稽核
帶來後果的決定仍可被檢視、被追溯。
相互可預期
人與機器都能預先掌握重要類別的行為。
實驗室裡已經在做的，是今天這一層的治理，不是文明已經出現的證據。 生產事故調查員 把 ALLOW / BLOCK 與人的核准留在決策邊上。 推進中的系統研究 則寫下 Agent Decision Lineage、ALLOW / REVIEW / BLOCK、可觀測性與授權審計。這些是共存所需要的邊界與追溯，目前仍是工程原型與研究軌跡。風險管理的外部背景見 NIST AI 600-1；它支持治理方向，不是 IAC 臨界點的驗證標準。站內原型的實作狀態仍以站內文件為準。
07 · Symbiosis
從共存到共生
Coexistence · 共存
我們可以共享同一個現實，而不摧毀彼此。
Symbiosis · 共生
因為另一種智能存在，我們獲得原本沒有的能力。
人可能較強的地方
- 具身經驗
- 情境意義
- 生物感知
- 社會正當性
- 活過的價值
- 文化理解
AI 可能較強的地方
- 計算
- 記憶
- 模擬
- 模式分析
- 協調
- 規模
Human × AI
要寫的是 Human × AI，而不是 Human vs. AI。
PROPOSED 設計志向，不是數學定理，也不能用現有統合研究證成普遍成立
Human × AI > Human + AI
Vaccaro et al., 2024 統合人類單獨、AI 單獨與人機合作的實驗，發現合作效果取決於任務與合作設計，並非必然勝過表現較佳的單方。這條不等式因此維持為待實現的設計志向。
08 · Equilibrium
Human–AI Equilibrium · 人機平衡
FUTURE SCENARIO 假設性的研究目標，不是必然的未來
平衡在這裡不是靜止的均勢。它指的是一種動態條件：
人與愈來愈獨立的人工智慧，持續調整彼此的邊界、協定、責任與合作形式。
Neither control nor surrender — coordination.
- 可維持的共存
- 持續調適
- 相互約束
- 分散的智能
- 可稽核的權限
- 共同創造價值
- 有韌性的治理
09 · Beyond the tool metaphor
工具隱喻之後
若人工智慧最終發展出持續性、自主協調、機器對機器的制度，以及自我維持的運作結構，「工具」還是正確的概念模型嗎？
這一頁不把答案寫死。下面是開放的研究領域：
AI Agency Machine Society Machine Governance Human Sovereignty Multi-Agent Institutions Machine Norm Formation Shared Governance Multi-Intelligence Civilization
OPEN QUESTION 開放問題
機器權利只能被當成尚未回答的研究問題。它不是本框架的結論。
10 · Research agenda
研究議程
這則理論必須維持可檢驗、可被反駁。
最小操作定義
Independent AI 的最小操作定義是什麼？
與分散式軟體的分界
一組自主代理，在哪個時點開始與分散式軟體系統有意義地不同？
自發的協定與規範
持久的 AI 代理會不會自發形成穩定協定、分工或規範？可設定的協作見 Wu et al., 2023；實驗條件下的共享慣例見 Ashery et al., 2025。前者不是自發制度，後者不能推論機器文明已存在。
磨合能否測量
Human–AI Reality Friction 能不能被測量？
人類訊號與穩定
Human Sensor Quality 會不會可測量地影響長期多代理穩定？
治理與自主
哪些治理機制能降低衝突，同時保留有用的自主？
臨界點能否操作化
IAC Threshold 能否被操作化，並用實驗檢驗？
Falsification Principle · 可反駁原則
Precursor signals
在 AI 文明存在之前，我們該觀察什麼？
這裡不預測日期。下面是可觀察的前兆訊號，組成一份 Research Watchlist。
- 持久的多代理運作
- 自主的任務委派
- 耐久的機器對機器協定
- 跨代理記憶（沙盒中的相關設計見 Park et al., 2023；技能保存見 Wang et al., 2023。不表示已普遍實現）
- 自主的資源配置
- 浮現的專業分工
- 由機器產生的治理機制
- 代理被替換後仍然穩定的規範
- 對持續人為介入的依賴下降
Relationship
From Reality to a Shared Future
從現實到共同的未來
-
P0 One Bit Theorem
Explore Reality. 探索現實。
現實最深的一層是什麼？
-
Independent AI Civilization
Explore Civilization. 探索文明。
當另一種智能開始獨立居住在那個現實裡，會發生什麼？
-
Human–AI Reality Friction
理解碰撞。
-
Human Sensor Quality
改善對齊裡屬於人的那一側。
-
Coexistence
建立邊界與協定。
-
Symbiosis
形成互補的智能。
-
Human–AI Equilibrium
探索穩定共享文明的可能性。這仍是未來情境。
Explore Reality
向下探索現實。P0 One Bit Theorem
Explore Civilization
向前探索文明。本頁。
Build Together
在我們目前共享的現實裡建造。Human × AI Systems
P0 是向下探索現實。獨立 AI 文明是向前探索文明。Human × AI Systems 是當下的工程與治理。三者互補，沒有一個證明另一個。
Different intelligences. One shared reality.
愈來愈獨立的人工智慧出現，並不自動意味戰爭、臣服或取代。它製造的是人類先前沒有面對過的一類協調問題。
挑戰不只是讓機器服從人，也不只是讓人把自己改造成適合機器。更深的挑戰，是設計協定、邊界、制度，以及溝通的品質，讓根本不同的智能能夠居住在同一個現實裡。
The future of alignment may be less about control—and more about learning how different intelligences coordinate.
Explore Reality. Understand Intelligence. Build Together.
Sources
References & Further Reading
本頁提出的 Independent AI Civilization、七項 IAC 維度、演化序列與 Human–AI Equilibrium，是作者的研究框架、假說或未來情境，並非下列文獻已確立的科學分類或結論。以下研究提供相關的技術與治理背景。沙盒中的多代理行為，不等於現實世界已出現獨立 AI 文明。
代理規劃、行動與持續記憶
- Yao, S., et al. (2023). ReAct: Synergizing Reasoning and Acting in Language Models. ICLR 2023。研究語言模型如何交替產生推理步驟與任務行動，並與外部資訊來源互動。適用於本文「Agent 代理」與「AI Agent Era」的技術背景。
- Park, J. S., et al. (2023). Generative Agents: Interactive Simulacra of Human Behavior。研究結合記憶、反思與規劃的生成式代理，並在互動沙盒中觀察代理之間的社會行為。適用於「Memory」「Coordination」與多代理觀察清單。其結果限於所研究的模擬環境。
- Wang, G., et al. (2023). Voyager: An Open-Ended Embodied Agent with Large Language Models。研究代理在 Minecraft 環境中的探索、技能累積與環境回饋。適用於「Persistence」「Knowledge Transfer」的相關技術背景，但不證明代理可在開放的現實環境中自我維持。
多代理協作與規範
- Wu, Q., et al. (2023). AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation。研究多個代理如何透過對話、工具及可設定的互動流程共同完成任務。適用於「Coordination」與「自主任務委派」。框架中的協作流程不等同自發形成制度。
- Ashery, A. F., Aiello, L. M., & Baronchelli, A. (2025). Emergent social conventions and collective bias in LLM populations. Science Advances, 11, eadu9368。預印本：arXiv:2410.08948。研究去中心化的 LLM 代理群體在實驗條件下形成共享慣例及集體偏差。適用於「Norm Formation」與 RQ3。不能由此推論機器文明已存在。
人類回饋、治理與共生
- Ouyang, L., et al. (2022). Training language models to follow instructions with human feedback。研究以人類示範與輸出排序改善模型遵循使用者意圖的能力。適用於「Human Sensor Quality」中人類回饋會進入模型調整流程的背景。本文提出的完整「人類感知器品質」構念仍需另行定義與驗證。
- Autio, C., et al. (2024). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1。提供生成式 AI 在設計、開發、使用與評估階段管理風險的框架。適用於「Boundaries」「Auditability」及治理機制。它不是 IAC 臨界點的驗證標準。
- Vaccaro, M., Almaatouq, A., & Malone, T. (2024). When combinations of humans and AI are useful: A systematic review and meta-analysis. Nature Human Behaviour, 8, 2293–2303。統合人類單獨、AI 單獨與人機合作的實驗結果。研究發現人機合作的效果取決於任務與合作設計，並非必然勝過雙方各自工作。適用於「Symbiosis」的實證限制。
進一步閱讀：安全風險
- Bengio, Y., et al. (2025). International AI Safety Report。彙整先進 AI 能力、風險及安全研究的證據，可作為「Reality Friction」與研究議程的背景閱讀。報告不構成本文「協調失敗」假說的直接驗證。
站內可接著讀