人工智慧淪為極權操控生命的工具,你是忘記了,還是害怕想起來?

人工智慧淪為極權操控生命的工具,你是忘記了,還是害怕想起來?

圖片來源:Shutterstock

299
文・李崇僖(臺北醫學大學醫療暨生物科技法律所創辦所長)

科技部在九月份公佈了「人工智慧科研發展指引」,內有揭示八項倫理原則,分別是:「共榮共利」「公平與非歧視性」「自主權與控制權」「安全性」「個人隱私與數據治理」「透明性與可追溯性」「可解釋性」「問責與溝通」。

 

我想,光看這些字詞的表面意義,以及該指引所提供的極簡短解釋,社會大眾或科研工作者應該很難理解它的具體內涵精神,後續仍需要專家對此文本進行更多的闡釋或辯論,才能發揮指引作用。

本文暫且先不討論這些原則的具體內涵,而是要放在更大的全球及兩岸發展脈絡上,來討論此份指引的意義與未來方向。

中國發表人工智能倫理原則,有何作用?

今年五月,中國也有幾個代表性學術機構,共同發表了一份「人工智能北京共識」。內有15項人工智能倫理原則,分別針對研發、使用、治理三方面提出倫理原則。

這是由北京大學、清華大學及中國科學院等幾個龍頭機構,所討論決議的,其性質頗有比照美國加州在2017年出現的Asilomar人工智慧倫理原則。兩者都是由學術機構所發起,內容也大同小異。

就此點而言,台灣是由科技部所主動發布,頗有其特殊之處。表示科技部在大力推動人工智慧研發之同時,也體認到人工智慧的倫理議題與社會衝擊,必須儘早帶動討論,才能促成制度面的回應,也可避免科研成果最終因社會疑慮而無法落地應用。

然而,故事並未到此結束。中國政府是以人工智慧進行政治監控的大國,學術機構提出的人工智慧倫理原則實際上究竟有何作用?不禁令人懷疑。

不僅如此,今年七月中共中央全面深化改革委員會第九次會議上,也正式通過了「國家科技倫理委員會組建方案」。其意旨在於針對近年出現的基因編輯技術、換頭手術、人工智慧技術等科技,加強倫理審查管制。

換言之,中國的倫理治理模式,終究不是像美國是由學術界發起自律規範,而是由國家建立科技管制體制。這樣的管制,會帶來怎樣的政治意涵呢?

實際上,各國的國家級倫理委員會向來不是純粹的科學或倫理目的,而是政治的產物。例如,因人類胚胎幹細胞研究的倫理爭議已升級為總統選戰議題,2001年美國小布希總統上任後,便成立「總統生命倫理委員會」,召集專家研討,定期出版報告,以表現白宮對生命倫理的重視(小布希就是因反人類胚胎幹細胞研究團體大力支持而當選)。

韓國也在2003年制定「生命倫理與生物安全法」、設立國家生命倫理委員會,也是基於幹細胞研究推動之需要。2005年「黃禹錫事件」(註:韓國知名學者,但因偽造實驗結果遭判刑)後,該委員會就不再核准任何有關人類胚胎幹細胞的研究。

由此可知,相較於一般科技倫理,生命倫理具有明顯的政治意涵。我們必須從這個脈絡,去理解各種國家級生命倫理委員會的設立。

中國政府此時成立國家層級的科技倫理委員會,難道是因為開始重視科技倫理?就像現在一反文化大革命時期「打倒孔家店」的說法,轉而在全球普設孔子學院,究竟是改邪歸正的表現,還是惡狼打造了合身的羊皮?

皇帝追求長生不老,極權政府掌控生命權

研究科技社會學的人都知道,科技向來代表權力;科技的分散或集中,隱含了權力的流動變化,過去的通訊科技、能源科技皆是如此。而生命科技尤其涉及終極性的權力分配,亦即對生命的控制權。

自古以來,皇帝都想追求長生不老之術,而且皇帝權力的極致,不過就是摧毀政敵的肉體;但生命科技發展至今,已將跨入最根本的生命本質之控制,這才是「賀建奎事件」(註:中國學者,改造嬰兒基因以預防愛滋病)的政治本質—如此可以操控生命的技術,怎能在沒有國家控制的前提下,任由個別科學家操作?賀建奎的行為,不僅觸怒國際生命科學界,也干犯了中共政治控制的界線。

再看到新興的人工智慧技術及大腦科學技術,其政治意涵,比生命科學更為明顯。

人工智慧已經是中國政治控制的「最強外掛」,透過大數據及臉部辨識等技術,讓反對的聲音無所遁形,人人自我審查。將來腦科學操控技術發展後,極權統治將會獲得「終極武器」,政治權力將可直接改造異議者的思想與記憶。

這樣的科技並不遙遠,而極權統治者對新科技的掌握,必須永遠跑在民間社會之前—所以,當國家科技倫理委員會在各界質疑疑新科技的倫理風險背景下登場,儼然充滿了正當性。不僅中國內部,連國際社會也普遍歡迎中國政府此一象徵「重視科技倫理」之舉。

然而,由中共中央政府「審查」科技倫理,實際上等於由黨中央「定義」倫理的內涵。

我從網路上搜尋這個組建方案,只有一片叫好聲,卻完全看不到該委員會要如何組成。這不意外,中國政府組織向來不透明,不需交代這些「滴滴答答」的小事。

然而,德國的聯邦倫理委員會(German Ethics Council)就明文規定,其26位委員不可同時擔任中央或地方議員或行政部門人員,韓國也是透過法律設立國家級委員會。

中國的這個委員會,必然是權力集中於領導者一身。因此,這個委員會實際運作上所定義的「倫理」,必然也要符合於「皇帝」的意志與利益,無須多問。

從生命科學到人工智慧、再到將來的腦科學,從全球治理的角度來看,不僅面臨科技與產業的競爭,更是倫理治理的競爭。在人權議題上,中國向來主張中國式的人權觀,將來也會有中國式的科技倫理觀,這對所有倫理學者來說是個重大的挑戰。

在這樣的發展脈絡下,台灣除了科技部頒布的科研倫理指引,更要思考如何因應這個全球倫理治理的新變局,找到自身的定位與路線。這份指引只是個起點,我們該做的事還很多。

李崇僖

從科技倫理到公共治理

臺北醫學大學醫療暨生物科技法律所創辦所長,研究專長在醫療科技倫理與法律政策、人工智慧法律議題、智慧財產權法等。有感於學術界對於跨界觀點與法 政策實務關注不足,因此在本專欄希望多探討科技與政治經濟之關係、法律與 社會文化之關係、倫理與政策治理之關係。

延伸閱讀