人工智慧日益普遍地應用於社會生活各層面。享受人工智慧帶來的效率智慧生活，同時提防人工智慧可能失控或過度控制我們的生活，兩者之間，如何平衡？
探索這個問題，必須先問：我們擔心怎樣的控制？
社會評分低，連高鐵票都買不到
你若聽說過，正在中國發展試用中的「社會信用評分制度」如何運作，應該不會認為前述的擔心過於遙遠。
所謂社會信用評分制度，就是使每個人都按照其社會行為之信用度被計分；低於某個分數的公民，將無法購買高鐵票或機票，也會影響其申請銀行貸款或社會福利給付。
這樣的制度，從杭州、南京、成都等十幾個城市逐步推展開來，竟沒有引發全面的社會反彈。難道民眾真的心甘情願被如此控制嗎？人們真能信任這個評分系統運作的公正性嗎？
從「為民除害」開始逐步洗腦
先來理解，這樣的社會信用評分制度，是如何一步步打造起來的。
首先，因為一年前中國出現P2P信貸倒閉潮，許多投資者求償無門，中共順勢推出對企業的信用評分系統，打擊失信企業，使其無所遁形。對此，社會大眾鼓掌叫好。
接著，系統延伸到對於賴帳詐欺的個人進行公示。民眾看電影時，這些「老賴」們的姓名影像會在螢幕上被公告周知，甚至可用手機看到這些「老賴」的分佈地圖。這個時刻，大家仍然覺得社會敗類就是應該揪出來，系統可讓大家不要受騙上當。
這套系統既已成熟，中共就順勢將「財務信用」轉換成為「社會信用」，任何人只要有違規紀錄就會被扣分。其效果不是只有公示，而是全面限制市民生活的基本權益。
直到這時民眾才發現，自己莫名其妙在告示板上被列為低分，不是因為做錯了什麼，而是因為跟有權力給分的官員不是好朋友。
更重要的是，這個系統的大問題，不是因為它被不公正地執行（雖然這是必然的）；真正的問題是，它展示著當代科技的完美極權統治模式。
【延伸閱讀】被警察「掃臉」後會被監控嗎？倫敦男拒絕遭罰$3500，舊金山向視覺辨視說不
透過一帶一路輸出「人臉辨識」
此外，中共同時全力普及另一項技術：全面社會監視與臉部識別系統。人們的一舉一動，都逃不過被記錄的可能。
臉部識別技術是中性的技術，可用於正面的社會用途；然而一旦結合社會信用評分系統，它瞬間就變成極權統治的工具。每個人隨時被記錄並會影響積分，等同於活在沒有隱私與人權的監獄。
更驚人的是，中國不僅在國內普及這項技術的應用，還積極結合一帶一路政策，向周邊國家輸出此技術產品。
根據「日經亞洲評論」報導，中國已經提供18個國家此種影像監視與臉部識別技術，包括東南亞的泰國、越南、柬埔寨、馬來西亞等，還有非洲的辛巴威、中亞的烏茲別克等國。
此種技術輸出具有兩層意義：一是透過大量的國際採用，使中國的臉部識別技術獲得更多的機器學習資料，提升監控能力。
人工智慧的技術特性，可分為「識別能力」與「預測能力」。但極權政府使用人工智慧的目的，不在於從數據預測社會行為，而是要精準識別每個人民，創造心理恐嚇。為達此技術能力，勢必要積極向海外輸出技術，以蒐集更多資料進行機器學習。
因此，另一層意義，便是對外輸出反民主的極權控制工具，同時建立反西方政治價值體系的國際聯盟，這正是歐美國家最擔心的。美國政府已表明，考慮將監視系統的龍頭公司「海康威視」列入科技出口管制的黑名單。此舉背後涉及國際政治價值體系對抗的基本佈局。
【延伸閱讀】無人機抓罪犯，你覺得更安全嗎？
極權政體正透過演算法強化統治能力
歐美社會固然也經常檢討並擔心，自身的人工智慧應用可能造成一個「黑箱決策」的社會；但細究兩者，意義卻大不相同。
歐美社會普遍擔心，運用人工智慧的預測能力做決策，會導致政治透明性及可問責性不足，變成「演算決定」的社會政策。
紐約市最近就組成委員會，讓各界參與並檢討，市政府使用演算法分配教育或福利資源的合理性。
紐約市府運用大數據的預測能力，是希望有效率地分配資源；若運用得當，理應有助達成政策目標。但過程中可能出現非預期的偏差歧視，因此市民要求應用此工具必須透明。
反之，出於極權控制與政治恐嚇目的的人工智慧技術，使用動機就是「反民主」，難以期待有透明性及問責性可言。
當我們擔心演算法可能控制我們的生活，甚至因非預期的計算失誤或資料偏差，造成社會秩序失控時，我們可能更要警戒：極權政體正透過演算法，不斷強化統治能力。
而且，這樣的統治技術不僅依賴科技，還憑恃著被統治的人民之間的仇視與不信任，導致喪失政治問責的能力與意念。畢竟，唯有已經失去互信的社會，執政者才有機會打著「維護社會信用」的名號來進行監視統治。
但人民不該忘記，是怎樣不透明無問責的政治體制，才打造出這樣失去互信的社會。
