李崇僖專欄|國家機器動起來!中國推社會信用評分,拿低分連高鐵票都買不到

李崇僖專欄|國家機器動起來!中國推社會信用評分,拿低分連高鐵票都買不到

圖片來源:Shutterstock

2449
文・李崇僖(臺北醫學大學醫療暨生物科技法律所創辦所長)

當你的每一個行為都將成為「積分」,每一點積分都將影響生活權利時,社會評分制度究竟是為民除害,還是全民監控?

人工智慧日益普遍地應用於社會生活各層面。享受人工智慧帶來的效率智慧生活,同時提防人工智慧可能失控或過度控制我們的生活,兩者之間,如何平衡?

探索這個問題,必須先問:我們擔心怎樣的控制?

社會評分低,連高鐵票都買不到

你若聽說過,正在中國發展試用中的「社會信用評分制度」如何運作,應該不會認為前述的擔心過於遙遠。

所謂社會信用評分制度,就是使每個人都按照其社會行為之信用度被計分;低於某個分數的公民,將無法購買高鐵票或機票,也會影響其申請銀行貸款或社會福利給付。

這樣的制度,從杭州、南京、成都等十幾個城市逐步推展開來,竟沒有引發全面的社會反彈。難道民眾真的心甘情願被如此控制嗎?人們真能信任這個評分系統運作的公正性嗎?

從「為民除害」開始逐步洗腦

先來理解,這樣的社會信用評分制度,是如何一步步打造起來的。

首先,因為一年前中國出現P2P信貸倒閉潮,許多投資者求償無門,中共順勢推出對企業的信用評分系統,打擊失信企業,使其無所遁形。對此,社會大眾鼓掌叫好。

接著,系統延伸到對於賴帳詐欺的個人進行公示。民眾看電影時,這些「老賴」們的姓名影像會在螢幕上被公告周知,甚至可用手機看到這些「老賴」的分佈地圖。這個時刻,大家仍然覺得社會敗類就是應該揪出來,系統可讓大家不要受騙上當。

這套系統既已成熟,中共就順勢將「財務信用」轉換成為「社會信用」,任何人只要有違規紀錄就會被扣分。其效果不是只有公示,而是全面限制市民生活的基本權益。

直到這時民眾才發現,自己莫名其妙在告示板上被列為低分,不是因為做錯了什麼,而是因為跟有權力給分的官員不是好朋友。

更重要的是,這個系統的大問題,不是因為它被不公正地執行(雖然這是必然的);真正的問題是,它展示著當代科技的完美極權統治模式。

【延伸閱讀】被警察「掃臉」後會被監控嗎?倫敦男拒絕遭罰$3500,舊金山向視覺辨視說不

透過一帶一路輸出「人臉辨識」

此外,中共同時全力普及另一項技術:全面社會監視與臉部識別系統。人們的一舉一動,都逃不過被記錄的可能。

臉部識別技術是中性的技術,可用於正面的社會用途;然而一旦結合社會信用評分系統,它瞬間就變成極權統治的工具。每個人隨時被記錄並會影響積分,等同於活在沒有隱私與人權的監獄。

更驚人的是,中國不僅在國內普及這項技術的應用,還積極結合一帶一路政策,向周邊國家輸出此技術產品。

根據「日經亞洲評論」報導,中國已經提供18個國家此種影像監視與臉部識別技術,包括東南亞的泰國、越南、柬埔寨、馬來西亞等,還有非洲的辛巴威、中亞的烏茲別克等國。

此種技術輸出具有兩層意義:一是透過大量的國際採用,使中國的臉部識別技術獲得更多的機器學習資料,提升監控能力。

人工智慧的技術特性,可分為「識別能力」與「預測能力」。但極權政府使用人工智慧的目的,不在於從數據預測社會行為,而是要精準識別每個人民,創造心理恐嚇。為達此技術能力,勢必要積極向海外輸出技術,以蒐集更多資料進行機器學習。

因此,另一層意義,便是對外輸出反民主的極權控制工具,同時建立反西方政治價值體系的國際聯盟,這正是歐美國家最擔心的。美國政府已表明,考慮將監視系統的龍頭公司「海康威視」列入科技出口管制的黑名單。此舉背後涉及國際政治價值體系對抗的基本佈局。

【延伸閱讀】無人機抓罪犯,你覺得更安全嗎?

極權政體正透過演算法強化統治能力

歐美社會固然也經常檢討並擔心,自身的人工智慧應用可能造成一個「黑箱決策」的社會;但細究兩者,意義卻大不相同。

歐美社會普遍擔心,運用人工智慧的預測能力做決策,會導致政治透明性及可問責性不足,變成「演算決定」的社會政策。

紐約市最近就組成委員會,讓各界參與並檢討,市政府使用演算法分配教育或福利資源的合理性。

紐約市府運用大數據的預測能力,是希望有效率地分配資源;若運用得當,理應有助達成政策目標。但過程中可能出現非預期的偏差歧視,因此市民要求應用此工具必須透明。

反之,出於極權控制與政治恐嚇目的的人工智慧技術,使用動機就是「反民主」,難以期待有透明性及問責性可言。

當我們擔心演算法可能控制我們的生活,甚至因非預期的計算失誤或資料偏差,造成社會秩序失控時,我們可能更要警戒:極權政體正透過演算法,不斷強化統治能力。

而且,這樣的統治技術不僅依賴科技,還憑恃著被統治的人民之間的仇視與不信任,導致喪失政治問責的能力與意念。畢竟,唯有已經失去互信的社會,執政者才有機會打著「維護社會信用」的名號來進行監視統治。

但人民不該忘記,是怎樣不透明無問責的政治體制,才打造出這樣失去互信的社會。

李崇僖

從科技倫理到公共治理

臺北醫學大學醫療暨生物科技法律所創辦所長,研究專長在醫療科技倫理與法律政策、人工智慧法律議題、智慧財產權法等。有感於學術界對於跨界觀點與法 政策實務關注不足,因此在本專欄希望多探討科技與政治經濟之關係、法律與 社會文化之關係、倫理與政策治理之關係。

延伸閱讀