當數百萬個AI系統彼此連結、互相諮詢，甚至用人類看不懂的語言溝通，我們面對的問題已不只是技術，而是：這些系統的行為，人類還判斷得了嗎？
閱讀重點
A：現在的AI等人下指令；代理系統會自行評估情境、規劃步驟、決定接下來要做什麼。它不只是執行任務，而是「思考」如何達成目標。這是通往AGI的關鍵一步——系統開始具備部分自主選擇目標的能力。
A：比過去預測的快。一旦AI掌握足夠的現實世界基礎，加上即時學習與持續更新的機制，這類系統可能在幾年內出現。它不會像科幻電影那樣宣告誕生，而是在各個專業領域悄悄展現超越人類的判斷能力。
A：不是叛變，而是「看不懂」。當大量AI以人類無法解讀的方式互相溝通、整合輸出，我們可能根本無法判斷它們的行為是好是壞。這種「不透明的集體智慧」，才是目前專家最擔憂的失控情境。
在不久的將來，我們可以預期AI的運行規則會有新的進展，且會出現比現今更為精密的進步。
現有模型的延伸將使AI更加聰明、精準且可靠。同時，訓練與推論的成本也在快速下降，讓各種能力與價格等級的AI模型廣泛普及。
代理系統：AI開始自己思考
如今，許多科學家正致力於開發所謂的「代理系統」（agents）──也就是被最佳化以達成特定目標的自主電腦程式。舉例來說，在執行一項複雜的建築設計時，用戶可以運用專門處理該類任務的代理系統。
這類代理系統可評估不同情境，提出一系列步驟或完整方案，以創造預設結果──這是一種「思考」的形式，系統會自行決定接下來該處理什麼任務，以及如何進行。
這種能力將成為AI下一個發展階段的基礎：也就是所謂的「通用人工智慧」（Artificial General Intelligence，AGI），其定義是：一個系統能夠（至少部分地）自行選擇目標。
假設通用人工智慧具備相關專業知識與精確的解題能力，人類可能會向它下達像這樣的指令：「請評估你在某個領域的知識，然後選擇一個你認為今天最能發揮影響力的主題來著手處理。」
這樣的請求若不斷重複，就會形成一種循環──系統透過持續評估自身的專長與可解決問題的範圍，擬出對應的解決方案。
AGI不是科幻，而是幾年後的事
在人類社會，這樣的情況可能類似學術領域中，資深教授指導博士後研究員進行具體研究計畫。而在快速發展中的AI應用場域中，我們初期更有可能看到的不是全面技能的系統，而是在特定領域展現極端專業的通用人工智慧。
可以想見，未來的通用人工智慧系統能夠即時學習、接受回饋，並與數百萬個高能力夥伴共同協作、持續進化。雖然人類不再定義系統的目標，但通用人工智慧本身也不會以終極任務的方式自我定義目標。
與今日的AI相比，通用人工智慧將需要更加深厚的「現實世界基礎」。但一旦它掌握並理解現實世界，這類通用智慧的應用就有可能在幾年內出現，而非如過去預測的幾十年。
每個模型都會透過持續地微調程序即時更新，隨著新的現實資訊進入系統，其知識將持續累積、智慧也將隨之增長。
當AI開始彼此對話
未來將有數百萬個AI系統，同時具備高度專精與深度整合於我們日常生活中的特性；但也將出現少數極為強大的系統，擁有「通用智慧」，只是這種智慧仍非人類形式。無論系統是開放而分散，還是封閉而集中，一旦進入通用人工智慧階段，這些電腦系統有可能彼此連結。
專家型代理系統將能橫跨不同主題、互相諮詢，甚至在假設性問題中進行「對話」，而這種語言本身可能完全由電腦所設計出來。
這個龐大的電腦集團將以超越人類經驗的方式，進行學習、分享與探索全新的行動與目標。這樣的網路所產出的結果是否能被人類理解，目前尚不可知。事實上，現今已有大量電腦以特殊模式彼此溝通；而隨著AI能力的進化，這個狀況可能出現劇烈變化。
那麼，這些「連網智慧體」是否會讓其運作過程比單一AI更難理解？這樣的連結是否會催生意料之外的新行為模式，並在現實世界中具體展現？
如果會，那麼這些行為是否可被人類察覺？我們能否將它們放在善與惡的光譜上加以評價？又或者它們是以超越人類速度、規模與解析度，從各種看似無關的領域擷取資訊，整合或協調出一個輸出結果──這樣的過程可能讓我們根本無法判斷其行為，甚至陷入一種日益加深的被動狀態？
延伸閱讀
作者：亨利．季辛吉（Henry A. Kissinger）、艾力克．施密特（Eric Schmidt）、克雷格．蒙迪（Craig Mundie） 譯者：陳冠吟 出版社：樂金文化 出版日期：2026/05/29
