「董事會可以解雇我。」幾個月前他參加研討會座談時堅稱：「我認為這很重要。」OpenAI仍由非營利董事會管理，主要受益人是全體人類。這就是為什麼公司的營運協議聲明投資人應該「抱持捐款的精神」看待他們的投資，「並且理解到，在通用人工智慧出現後的世界裡，我們很難預知金錢會扮演何種角色。」
奧特曼曾經賭他能魚與熊掌兼得，既能經營一家企業，又能追求拯救世界的慈善使命。正如他在十年前所寫的，最成功的新創公司創辦人「創造的東西更接近宗教」。只是他沒有預料到，人們竟如此深信不疑。
有效利他主義運動是如此強大，讓加密貨幣交易所FTX創辦人山姆・班克曼—佛里德（Sam Bankman-Fried）與Facebook共同創辦人達斯汀・莫斯科維茨（Dustin Moskovitz）等人都大手筆捐贈數十億美元。它還激勵數百位大學生改變生涯志向，甚至促使OpenAI四位董事會成員開除全球最受歡迎的執行長。奧特曼以為董事會會重視他所創造的商業價值。
然而事實並非如此。董事會成立的目的是維護公司章程，而他們選擇人類。
但是，幾乎所有員工都威脅要離職，若真如此，董事會將沒有公司可以管理。而且微軟已經準備好讓奧特曼繼續推動原本的工作，畢竟他擁有OpenAI關鍵系統的原始碼備份以及多項智慧財產權。
奧特曼曾與OpenAI的董事會產生立場衝突，導致企業內部變革。圖片來源：Shutterstock
就在奧特曼被開除五天後，OpenAI宣布組成新董事會，由前美國財政部長勞倫斯・薩默斯（Larry Summers）與企業軟體公司賽富時（Salesforce）的前執行長布雷特・泰勒（Bret Taylor）擔任董事長（馬斯克收購推特時，泰勒恰好是推特董事會中頭腦最冷靜的人）。
這兩位之前曾加入多家企業的董事會。他們不會撰寫研究論文批評企業走捷徑，他們知道如何滿足像是微軟這樣的投資人的需求。對奧特曼最有意見的兩位女性董事海倫・托納（Helen Toner）與塔莎・麥考利（Tasha McCauley）被迫辭職。微軟在董事會取得一席觀察員席位，這也代表微軟執行長薩蒂亞・納德拉（Satya Nadella）再也不會措手不及。他成功的將危機化為轉機。
2023年11月發生的戲劇性事件，也徹底戳破奧特曼先前宣稱他會對最終結果負責的幻象。他曾公開宣稱，董事會可以開除他，但事實證明，這是不可能的。最終被迫離開的是兩位勇於對抗奧特曼的女性董事托納與麥考利。接下來幾個星期，她們在社群媒體上飽受最多批評；反觀其他男性董事，不論是個人聲譽或是職務角色絲毫不受影響。亞當・安傑羅（Adam D'Angelo）繼續留在董事會，蘇茨克維（Ilya Sutskever）雖然退出董事會，但是在OpenAI的領導職務依舊保留。
製造產品的企業才是贏家
多年來，Google一直極力避免DeepMind發生類似OpenAI的事件。當你賦予董事會權力，他們就有可能利用權力傷害你的業務。在開發通用人工智慧的過程中，奧特曼與DeepMind共同創辦人德米斯・哈薩比斯（Demis Hassabis）都曾調整公司的治理結構，試圖將人類最佳利益放置於至少與獲利同等重要的地位。但是他們的努力卻一再受挫。面對種種紛爭、競爭風險與權力欲望，最終仍是資本占上風。
某些人相信，奧特曼被開除的戲劇性事件，更加凸顯開源人工智慧的重要性，開源指的是任何人都可以修正或改進原始碼。雖然這麼做有許多優點，例如提升透明度、以更民主的方式控制人工智慧，而且符合倫理原則。然而，這是否就是開發通用人工智慧最安全、最平等的方式，依舊眾說紛紜。
開源並非是防止濫用的萬全之策，而且很可能缺乏封閉式服務的品質，更何況「開源」這個概念本身，也存在許多解讀空間。Meta現在積極倡導他們開發的人工智慧模型屬於開源性質，但是他們有設定某些限制，所以並不符合開源定義。
「事實上，開源會助長權力集中。」Google開放研究小組的創始人梅雷迪斯・惠特克（Meredith Whittaker）表示。「我們在安卓上看到這一點。」Google實際上制定安卓的標準，主導安卓的發展方向，因為這種控制權集中的現象，使得其他公司很難針對這個在全球擁有36億名使用者的作業系統做出任何改變。
奧特曼已經逐漸適應OpenAI與微軟的新合作方向，這也是更企業導向的經營策略；但與此同時，哈薩比斯仍在思考如何應用人工智慧解開現實世界的謎團。
他說他是DeepMind內部唯一在做這件事的人，每天從深夜到凌晨在家用電腦研究量子力學。「這就是我在非常有限的空閒時間所做的事情。」他稱之為「業餘愛好」。接著，他補充，當DeepMind接近實現通用人工智慧時，就會開始進行必要的物理學實驗，以解開宇宙謎團。
哈薩比斯曾調整公司結構，但在混亂與紛爭中，資本仍佔上風。 圖片來源：截自Google Deepmind YouTube
曾經驅使哈薩比斯決心開發通用人工智慧的個人抱負變成深夜消遣；白天，他忙著管理Google所有人工智慧業務，他的管轄範圍從原本大約400人的人工智慧研究人員，擴大到超過5,000人。
「你知道，隨著使命與技術的發展，情況會不斷變化。」哈薩比斯表示：「我們必須持續修正合適的治理結構，我認為我們現在的結構非常好。」
哈薩比斯沒有因為無法成立監督他工作的委員會及董事會而感到煩惱。「我們轉而成立許多內部委員會。」他說，他指的是由Google高層組成的各種內部「審核機構」。
「我想，十年前我們第一次考慮這個問題時，我們的想法可能有些過度理想化。」
儘管哈薩比斯與奧特曼基於利他主義意圖，盡力與商業影響保持距離，但是現在這兩人實際上掌控全球規模最大的兩家公司。奧特曼開始主導微軟某些重要的研究計畫，如果他想要的話，未來有機會坐上微軟執行長大位。
奧特曼帶領OpenAI與微軟合作，不只鞏固企業優勢，也把握個人地位。圖片來源：Shutterstock
人們對於哈薩比斯也抱持相同的看法。某些Google過去與現在的員工揣測，未來他或許會取代桑德爾・皮蔡（Sundar Pichai），成為字母公司（Alphabet）執行長。「哈薩比斯在倫敦主導Google最重要的研究計畫。我認為事前沒有人想到會是這樣的結果。」某位前Google高層指出：「這可能一直都是他的計畫。」
「未來幾年的贏家不會是研究實驗室。」前OpenAI科學家表示：「而是製造產品的企業，因為人工智慧不再只是研究而已。」
尼克・伯斯特隆姆（Nick Bostrom）的迴紋針故事，也就是某個超級人工智慧將全世界所有資源全部轉換成小金屬物件，最終毀滅人類的景象。聽起來像是科幻小說，但是從許多方面來說，它就是矽谷自身的寓言。
過去20年來，有幾家公司已經發展成為產業巨頭，主要原因是他們在追求目標時極度專注，甚至幾乎到了病態的地步。它們摧毀小型競爭對手，擴大市占率。有些科技公司是使用「北極星」來描述公司的目標，而不是不斷調整策略的「適性函數」。
多年來臉書的北極星是盡可能增加每日活躍使用者人數，馬克・祖克伯（Mark Zuckerberg）與他的管理團隊都是依據這個指標做出關鍵決策。但是持續追求成長的後果，就是引發一連串社會問題，從Instagram平台加劇青少年的身體形象焦慮，到加速臉書使用者的政治兩極化。
當科技專家努力想像超級智慧失控時會做出什麼事情，他們其實是看到自己在這個世界的影子。這個世界允許企業發展成不可阻擋的全球性壟斷勢力。近期歷史上最具變革性的科技都是由少數人開發的，這些人對於科技在現實世界中引發的副作用充耳不聞，沉溺於取得巨大成就的欲望。
真正的危險並非來自於人工智慧本身，而是來自於掌控它的人類任性妄為。
西洋棋有句名言：「戰術贏得比賽，戰略贏得錦標賽。」奧特曼與哈薩比斯在開發通用人工智慧的過程中都採取新穎的戰術。當追求夢想變成競賽，他們選擇與最有可能贏得錦標賽的微軟與Google更緊密的合作。兩個人的夢想協助鞏固兩大企業巨頭的優勢，同時也強化個人的地位。
在這場人工智慧霸權競賽中，Google與微軟已經取得領先，如今它們的人工智慧業務分別由來自北倫敦的國際西洋棋怪客、以及來自聖路易斯的新創企業大師掌舵。無論喜歡與否，所有人都將參與其中。
你可能有興趣：人工智慧背後的競爭者們
作者： 帕米．奧森（Parmy Olson） 譯者： 吳凱琳 出版社：天下文化 出版日期：2024/12/25
