我的AI哲學:能走絕不跑,能站絕不走——對《新AI與新人類》的意見

我的AI哲學:能走絕不跑,能站絕不走——對《新AI與新人類》的意見
面對AI,中研院院士朱敬一與《新AI與新人類》作者蘇經天持反向意見,他認為無須焦慮。圖片來源:大塊文化
2023-10-14
文・朱敬一(中研院院士)
6238
蘇經天博士寫了一本書,是當前正夯的AI話題。我認為此書與「值得閱讀」的門檻有不小的距離。書是作者寄送的,敬表感謝,但是書中有不少觀點值得商榷。那些觀點未必是錯的,但頂多只能算是作者的一家之言。我不希望讀者太受一家之言所影響,所以提出以評論。

蘇博士的學術訓練背景是生化、神經科學,對於認知科學理論、蛋白質結構擁有豐富知識,因此他對於AI在新蛋白質結構探索方面的應用,我是贊同的。此外,蘇博士也從認知科學的角度將知識體系分類分層,進而解說為什麼AI能幫助人類在知識建構上更加突破,我也認為是別具創意。

這些,都是此書前半部的內容。但是到了書的後半,作者犯了(自己描述舊知識體系)「線性推理」的毛病,對於他不全然了解的領域做了太多沒有說服力、甚至缺少證據的延伸,我就不得不評論一下了。

例如第211頁,作者認為AI時代將協助形成一個「知識不再是特定群體的專利,我們將看到一個知識無國界、共享無界限的時代」。這是嚴重的錯誤及誤導(This is terribly wrong and misleading.)。

AI與大數據(big data)輸入是分不開的。對於擁有大數據的人或群體而言,AI功能甚大。反過來說,對於不容易接觸到大數據的群體,AI像是沒有油料的F35戰鬥機,沒什麼鳥用。但是,誰擁有、誰能接觸到大數據,是極度不公平的。

朱敬一-中研院-AI-AI應用-書-閱讀-新AI與新人類-The Economist-人工智慧-ChatGPT-蘇經天-科技-AI趨勢-科技趨勢朱敬一指出,AI時代裡,知識仍難以共享,也加劇不平等。圖片來源:中研院官網

在自由世界,FB、Google、Amazon是手上大數據最多的強者。即使AI「程式」是平價普遍的,但是「數據資料接觸」的不平等,完全看不出有什麼解決之道。即使AI時代,知識也絕對不可能共享,甚至不平等也將更為加劇。尤有甚者,AI的學習功能是有規模報酬遞增(increasing return)的,這更會持續、擴大初始階段已然創造的不公平。(延伸閱讀|你的社群留言,成了ChatGPT的訓練資料——大型語言模型資料從哪來?

AI大幅穩定獨裁者地位

以上討論的是民間;如果把政府加進來討論,AI的可能危害將更為驚恐。

最近政治學文獻顯示,AI將大幅穩固獨裁者的地位。以前,獨裁者的監控非常沒有效率。柏林圍牆倒塌時,東德1,600萬人口,竟然需要200萬密秘警察與抓耙仔,才能執行監控,幾乎是「一人只能監控八人」。現在,拜AI之賜,輔之以政府手中的人口、財稅、戶籍、房屋、通訊、IP、GPS、銀行等資料,獨裁者有如脫胎換骨,掌控人民易如反掌。例如中國的「社會記點」制度,幾乎掐死中國所有的反抗。

此外,以前的獨裁者還得擔心爪牙政變,但現代的AI爪牙不會政變,獨裁將更加穩固。政治學者評估,2011年的「阿拉伯之春」,現在在中國斷無可能發生。這樣,算是一種「AI新世界」的成就嗎?

AI-人工智慧-AI應用-獨裁政治-統治-中國-人臉辨識-監控-獨裁AI時代來臨,獨裁政府更可能使用科技,以監視人民的行動。圖片來源:Shutterstock

我想問一個反向思考的問題:一方面,中國想努力用AI篩檢資訊、監控人民、維持自己的極權統治。但另一方面,民主陣營的資訊工程師也可以利用AI,去迴避中國的篩檢,也許用一種「中國AI篩檢沒有問題,滲入民間,但是慢慢發揮作用,逐漸掀起風潮」去反操作去設計AI。

這就像,現在有類似AI的軟體,去偵測某篇論文有沒有抄襲;將來會不會有另一種軟體,去「迴避」偵測軟體的偵查?這樣的攻擊(attack)與反擊(counter-attack),究竟哪一邊有優勢?或是,這只是沒頭沒腦的競爭?(延伸閱讀|政府該掌握個人的哪些資訊?新疆教育營與臉書的啟示:科技進步有利中央集權

AI降低知識門檻,但難有洞見

作者對於知識體系的了解,恐怕疏散了些。作者有化學、生醫的知識背景,也讀了EMBA;但EMBA所學與人文社會的知識骨幹之間,恐怕有重大差別。若由這些知識背景而推論AI對知識建構的幫助,也就有些瑕疵。

說個故事幫助了解。2013年我做國科會主委時,一位台大資訊工程系的大尾教授來報告他「數位化⋯⋯歷史資料」的計劃,希望國科會補助。資訊教授說,數位化資料之後,電腦可以協助整理出各種關鍵字串連、型塑內容架構、文獻交叉分析等工作,這些都有利於未來研究。

那個年代還沒有「AI」這個字,但是意思有點像。我問的問題是:「余英時會覺得這些數位資訊整理有幫助嗎?」這位教授楞住了。這是值得許多人思考的問題。

我粗淺地認為,包括AI在內的資訊梳理,應該可以大幅降低一些知識進入的「門檻」,省下很多「苦工」。但降低門檻未必有助於知識提升。就人文社會而言,知識的提升往往是「在余英時這一級的人的腦袋裡」完成的。他腦袋裡有一套特殊的、原本空白但逐漸充填的知識系統,「外力」難以介入。如果余英時真的用AI去協助,反而會攪亂了他自己的系統建構。

科技-AI-AI應用-大數據-AI威脅-人工智慧-科技與惡朱敬一認為,對某些專業而言,建構知識時,AI可能是一種擾亂的「外力」。圖片來源:Shutterstock

有一回,我請余公寫「與蘭花有關」的書法,他說「與蘭花有關的詩句,應該最早出現在楚辭吧」!這種偏冷偶然的問題,他是怎麼知道答案的?他哪裡需要AI幫忙找答案?如果他真的戴上一套配備偉大程式的人工智慧輔助,他自己原本的腦運作,會不會受到干擾呢?我不知道,但是我猜,會。

即使看看自然科學(hard science)的理論形成,我也不覺得AI一定有幫助。AI的投入是數據資料,我們希望能經過大量投入數據,由此(或藉此幫助)產出「理論」。但愛因斯坦(Albert Einstein)不是這樣說的。

「E=mc²」的式子、光遇到重力會轉彎,當時都完全沒有「數據」。愛因斯坦的名句是「是理論決定我們能觀察到什麼」(It is the theory which decides what we can observe),我則加上「而非相反」(not the other way around)。

我認為,頂尖的研究者都有驚人的洞見(insight);他們能夠在細部推導、實驗分析、統計迴歸之前,就大概「猜到」可能的結論。如果你問我,AI對重要理論建構的可能幫助,我會回答:「除非AI能協助我們形成洞見。」(only if AI can help us form the insight)

我這個想法,與2023年九月16日那一期的《經濟學人》(The Economist)專輯結論頗為類似。該雜誌說,AI似乎對兩個領域的知識創新有幫助。其一是文獻探索(literature-based discovery),其二是機器人科學家(robot scientists)。前者,是利用類似ChatGPT的技術,把科學文獻上已經存在的理論知識,做無厘頭的串接組合。後者,是用機器人權充科學家,把成千上萬個現有理論組合拚接,然後由機器人用實驗技術檢驗測試。

我認為,這樣推論的AI可能貢獻頗為合理。記得蘋果創辦人賈伯斯(Steve Jobs)說,「創新,就是把點連起來。」(innovation is about connecting dots)AI如果能夠幫助我們快速地連結成千上萬個點(dots),是比人工厲害多了。但是這與蘇博士的推論,有非常大的距離。(延伸閱讀|「我是在做好事?還是一件很壞的事?」ChatGPT之父奧特曼的告白

蘇博士認為AI也有助於心靈調適,幫助我們探索內在的自我和覺醒。這個說法近乎玄妙。至少禪修的覺醒,是唯心面的。《楞嚴經》有言,「從聞思修,入三摩地,初於聞中,入流亡所,所入既寂,動靜二相,了然不生,如是漸增,聞所聞盡,盡聞不住,覺所覺空,空覺極圓,空所空滅,生滅既滅⋯⋯」這「盡聞不住」的境界,「數據」還有什麼意義呢?

最後,也講一下「面對AI的態度」。蘇博士建議我們「無須焦慮,只須積極應對」。可是我不想這樣。想積極應對卻發現自己應對不了,那恐怕才是焦慮的開始。我的哲學是:「能走絕不跑,能站絕不走,能坐絕不站,能躺絕不坐」。不管要積極或消極面對,我都不會焦慮。(延伸閱讀|哈佛法學教授雷席格:我們正處於AI的「奧本海默時刻」,好壞永遠並存【完整全文】

(本文獲作者授權刊登

其他人也在看

你可能有興趣

影音推薦

#廣編企劃|【2023 天下城市高峰論壇 #9】新竹市交通處長 倪茂榮:改善交通,必須先做出優良示範道路|天下雜誌✕未來城市

已成功複製連結