《控制邊緣》作者穆斯塔法・蘇萊曼（Mustafa Suleyman）是DeepMind創辦人，目前為Microsoft AI部門執行長。身為AI先驅，他在書中指出對AI的擔憂，也提出未來解方。比爾・蓋茲（Bill Gates）、丹尼爾・康納曼（Daniel Kahneman）、尤瓦爾・哈拉瑞（Yuval Noah Harari）等跨領域專家也都推薦了這本書。
未來城市Podcast「AI讀書會」系列：《控制邊緣：未來科技與全球秩序的抉擇》。圖片來源：感電出版 製圖：未來城市
未來城市Podcast EP.82
▹ 未來主持人：未來城市頻道總監 陳芳毓
▹ 未來大來賓：感電出版副總編輯 鍾涵瀞
▹ 訪談精華一次收藏：
鍾涵瀞認為，AI發展時應訂立法規，避免失控。圖片來源：未來城市
問：《控制邊緣》的作者穆斯塔法・蘇萊曼（Mustafa Suleyman）是Google DeepMind的創辦人，現在任職於Microsoft AI部門執行長。長期研究AI的蘇萊曼，對AI的看法是悲觀還是樂觀？
鍾涵瀞（下稱鍾）：蘇萊曼可以說是AI發展最先驅的角色之一，但在《控制邊緣》裡蘇萊曼卻對AI抱持著悲觀態度。
科技人通常比較樂觀，多數想法是「我來解決問題，所有的問題都不該是問題」——尤其當擁有AI這個強大的工具時；但蘇萊曼卻想透過書籍，告訴世人「AI其實很危險」。
以往我們可以從各種電影、小說或哲學家、政治學家等得到這樣的論述，但蘇萊曼作為一位AI創業者、工程師，可以說是供應AI的軍火商，卻說AI非常危險，我覺得以他的身分確有如此論述其實很有趣。
問：《控制邊緣》裡反覆出現「contend」（駕馭）字詞，如書中提及「我們除了發展AI，也要發展駕馭AI的技術」，您認為蘇萊曼為何要用這個字？他對AI的觀點是什麼？
鍾：有很多人談AI會用「控制」或「圍堵」的字詞，而蘇萊曼用「駕馭」的目的是要告訴大家，AI是我們的co-pilot（副駕駛），可以協助各種事情，但我們不能讓助理變成老闆，在這樣的前提下，人類該如何理解手上的工具？
蘇萊曼提到，過去每種技術爆發時，人類從來沒有成功駕馭它；但以往不會發生災難，是因為爆發速度較緩慢，人類的時間或人數有辦法處理。其中，「人數」指的是，可能兩個國家正在戰爭，而一國技術高、另一國技術低，而其他國家會想盡辦法習得新技術。
蘇萊曼認為，在人類的發展歷程裡，我們可能面臨到技術不太可控的情況，不過人類都能消化。但是我們無法控制AI，或者，我們正面臨許多難以控制的的新技術，無論是量子電腦、生物學、機器人或核融合；這些讓人類幾乎接近上帝能力的技術，似乎非人類可以控制；換個角度來講，若這些技術交由人類控制，可能很危險。
蘇萊曼是Google DeepMindt創辦人、現任微軟AI部門執行長，他提出對AI的擔憂。圖片來源：Mustafa Suleyman
問：蘇萊曼在《控制邊緣》裡提到，他曾以「合成生物學」為例，說明AI降低了人類製造病毒的門檻，不過在場的人卻多以「當這件事情不會發生」的心態去面對。您怎麼看這段描述呢？
鍾：蘇萊曼口中「有資源的人」是指握有低成本資源的人，例如，有心人士只需一位高中生的生物教學組的教具，就能製造毀滅上億人的病毒。
而蘇萊曼是在一群創業家、工程師等菁英的群組裡談到這個擔憂。他提到此事時，AI正恰逢新的春天，大家都在思考如何發展AI、如何把技術變得更強大；但蘇萊曼想限制AI的想法，卻被部分科技圈人士認為是自斷經脈。
蘇萊曼對此解釋，菁英習慣忽視、否認他們認為過於消極的描述。人們在科技圈研發科技、工具甚至成立公司，注重的都是如何解決碰到的困難，至於發展科技時會衍伸哪些問題，科技圈多認為「技術、智力可以解決一切問題」。他們認為，蘇萊曼所提出的擔憂並不會是問題——這也是一種極度樂觀，或假裝沒有悲觀情緒的方式。
蘇萊曼很訝異，「真的沒有人想到AI的危險性嗎？」不過他後來想通了，不是沒有人想到，而是沒有人願意想。最初，蘇萊曼在成立DeepMind時就設立倫理委員會，很早就認為，科技使用倫理應該同時被討論。
問：蘇萊曼在《控制邊緣》舉出幾項AI可能造成的傷害，如人類可透過控制AI製造墜機、駭入電腦等，其中一個例子是「刺客機器人」，您怎麼看這個例子呢？
鍾：這是真實案例。2020年的11月，伊朗核武首席科學家成為伊朗對手的首要目標，科學家自認有危險，因此在伊朗安全部門協助下隱藏蹤跡；即便如此，科學家乘車時仍遭子彈攻擊致死。事後，經《紐約時報》調查，這是一場高科技電腦化神槍手的測試，且成功擊斃目標。
以往我們思考科技攻擊時，想像到的都是數位攻擊，如國家電腦遭駭入、政府部門資料外洩等，人類可能尚未想到，一般的生物世界也已明確受到各種的生命危害。
與其說蘇萊曼對AI悲觀，不如說他對人性悲觀。很多AI先驅都不願看見AI造成生命危害，他們確實為了人類進步，而致力於科技發展，但伴隨而來的外部成本仍不計其數。
我們仍不知道AI是否有求生意志，至少現階段談論AI的重點多聚焦於人類如何使用工具，也就體現到：第一，現今法規能不能快速應對問題；第二，人與人之間有無約定俗成的規矩。
如今，科技快速發展，就像美國西部拓荒時代，當時人類相處便建立在約定俗成的規矩上。不過我們有辦法做到這件事情嗎？或者這件事該如何進行？這些都是需要面對的難題。（延伸閱讀｜AI意識等於8歲小孩？前Google主管曝真相：AI能說服人類相信「它有意識」）
問：蘇萊曼針對AI可能產生的破壞性浪潮，舉出十項因應之道，您怎麼看這一系列做法呢？
鍾：蘇萊曼提出的十種方案，在我看來其實都有些陳舊。例如，蘇萊曼提及人類應有大協議，不過從以往訂立的眾多協定來看，只要破壞規則的代價小於獲利，很多人就會選擇冒險嘗試。所以，我認為蘇萊曼所談的解方不算是非常好的談法。
不過，我認為蘇萊曼結語提到：「人類是以後的生活。」這句話很有意思。
他說，資本家用低成本取得生產力，這可以從經濟發展角度理解；但工人並不這麼想，他們自認遭壓榨、選擇破壞工廠，就算後代會因這些發展獲利，他們也想不到這麼遠。《控制邊緣》有一個很大的前提是，過去，技術發展成本的降低速度緩慢，我們無法從中獲得好處；但是AI發展特徵之一就是非常快速，進而帶動成本降低的速度，我們都能從中獲益。
以AI筆電為例，它有各式各樣的功能，不只協助你在筆電上的工作，未來，筆電可能不只是筆電，它能幫你完成所有能接上網路的事情。
事實上，出版社找書時，很常看到如何使用AI工具的書，但我不會簽下這類書籍，因為可能下禮拜使用AI的方法就改變了。現在談AI問題的書，若有提出解方其實都是無效的，原因在於科技還沒進展到該階段，且當下的問題在明天可能就不是問題。與其把重點放在如何解決AI的問題，不如放在我們如何理解AI會把世界變成什麼樣子。
蘇萊曼其實想談的是：「人類想要未來發展成什麼樣子？」
蘇萊曼是具有人性光輝的人，他曾為了幫英國人權組織做穆斯林服務熱線而輟學；後來，他做AI創業時，也會思考如何讓AI或演算法更了解人性、更有同理心。我認為，同理心才是他想要談的解方。
問：許多人推廣AI時，會以「會使用AI的人將取代不會AI的人」，也間接讓人類對AI發展產生恐懼，您怎麼看這個說法呢？
鍾：此談法來自於某種產品定位，製造恐懼是販賣商品的一個方法。但依AI的發展速度，未來AI、機器人或量子電腦，甚至是核融合，將有接近無盡的能源與人力；也因為有機器人，我們將有無盡的算力；甚至，量子電腦可以協助人類思考，而AI讓人類不必工作，可以做想做的事情、找尋價值，這確實就是量變帶來質變。
科技發展速度已超過人類預期，《控制邊緣》談的核心問題即是，在發展如此快速的前提下，人類要如何駕馭這個力量，是非常困難的。（延伸閱讀｜馬斯克指「AI恐威脅人類」，起因是這本書！《超智慧》十年前的預測會成真嗎？）
聽懂未來：關於AI趨勢，我還想知道更多⋯⋯
未來城市給你更多知識補充包！
- 哈佛法學教授雷席格：我們正處於AI的「奧本海默時刻」，好壞永遠並存
- 「我是在做好事？還是一件很壞的事？」ChatGPT之父奧特曼的告白
- 馬斯克推「心電感應」AI晶片！腦機介面是通往未來的捷徑，還是潘朵拉的盒子？
想聽更多未來城市Podcast節目？
- 首播時間：隔週六播出。
- 頻道搜尋：天下雜誌Podcast頻道「聽天下」，或關注未來城市網站「未來城市Podcast」系列內容。
