沒錯,這段話只是仿擬,速寫過去十幾年來,網路身分的安全議題。最近,由於台北市校園的智慧販賣機風波,大家開始討論公共政策與個人隱私的潛在衝突,事實上,悠遊卡裡的個資只是起點,下一個更兇、更尖銳的焦點是「臉部辨識」。
【延伸閱讀】中國成「掃臉」第一大國,舊金山向人臉辨視說「不」
「臉部辨識」是歐美當前的隱私權爭議重心,也已悄悄進入我們的生活空間,台灣部分校園圖書館、宿舍搶著引進臉部辨識,引發人權及教育團體嚴詞批評,要求政府盡快立法規範。事不宜遲,讓我們分三個層次,推敲事關每個人的「面子問題」:
一、臉部辨識不是拿來解鎖手機嗎?它有哪些威脅?
最近有兩件事,可說明「臉部辨識」的爆炸性矛盾,一是法國政府計畫在11月硬推Alicem系統,以臉部辨識建立國民數位身分,讓民眾得以享用網路報稅等政府服務,藉此「提升行政效率」。
此一措施引發在野黨及民間團體強烈批評,認為此舉有政府監控的潛在威脅,且違反歐盟的個資保護法GDPR,再加上資料外洩風險,曾有駭客只花1小時就駭進政府App裡,讓法國政府承受巨大阻力。
另一爭議主角是亞馬遜,這家年營收2,300億美元的電子商務龍頭,也是雲端資料庫、人工智慧的強者,正積極向企業及各級政府推銷雲端應用,尤其臉部辨識技術Rekognition,包括強力爭取五角大廈代號「絕地武士」的百億美元肥約,因而引發數百名員工公開反彈,立法機關與新聞媒體也質疑濫用風險。(註:該合同最後由微軟得標。)
【延伸閱讀】想躲過 AI 監控?試試俄國工程師發明的「反臉部識別」特殊化妝
亞馬遜曾與佛羅里達州奧蘭多警方合作,測試利用Rekognition辨識並逮捕嫌犯,發現誤差機率不小,尤其對有色人種的錯誤率更高,引發種族歧視爭議,7月中,奧蘭多市府宣布終止合作。
早在5月間,堪稱矽谷發源地的舊金山,市議會就立法禁止公部門利用臉部辨識執法;9月中旬,加州州議會通過法案,3年內,全州警察的隨身器材都不准應用臉部監控。
在此同時,亞馬遜執行長貝佐斯忽然高調發聲,承認臉部辨識技術是兩面刃,需要法律管制,正草擬一份臉部辨識的規範草案,將主動提交國會議員,遊說通過此一聯邦法案。
簡單說,臉部辨識是一項尚未完全成熟,但對公民權益有重大影響的技術,卻以「便利、安全、效率」之名,草率推廣應用,又缺乏法律監管及倫理規範,因而帶來濫用危機。
二、政府或企業如果濫用會怎樣?
首先,當臉部辨識成為一種強制性措施,缺乏其他選擇機制,經常帶來痛苦與困擾,尤其針對弱勢族群。
科技媒體《連線》最近追蹤報導,紐約市一些出租公寓已裝設臉部辨識,要求住戶進出必須「刷臉」,但經常辨識失靈,尤其亞裔或非裔居民,他們只好枯等其他住戶出入才能回家,增添安全風險。而且,這些平價公寓房客往往是經濟弱勢,幾乎沒有發言權及選擇權。
更極端的例子是,印度的窮苦人家以往靠著紙本證明,每月就能領取救濟物資,自從政府引進另一項生物辨識特徵「指紋」,低收入戶改為按指紋,加上一組12位數密碼,才能拿到免於挨餓的救命食品;然而,指紋辨識機制不時出錯,位處偏村的他們,必須來回步行十幾公里,到鎮上行政單位辦理認證,加上手續費時,往往耗去一整個工作日,讓他們的處境更加艱辛。
【延伸閱讀】上學刷臉副作用:中國大學生地震「排隊」逃命,瑞典學校侵犯隱私罰65萬
諸如此類事例,引發「數位福利國」(Digital welfare state)的批評,現代政府經常將社會福利措施外包給科技公司,視為進步象徵,卻忽略了需要救助的底層民眾,最缺乏科技適應能力。據統計,光是英國就約有一千兩百萬人口,還不具當代生活所需的基本數位技能。
英國導演肯洛區備受好評的電影《我是布萊克》,就生動描繪一名年屆花甲、因病失去工作的木工,為了申請社會救助,必須與不熟悉的電腦及網路搏鬥,政府又因電子化,裁減電話客服及臨櫃人力,讓他幾乎三餐不繼,只好變賣家當。
其次,臉部辨識技術無論是否準確,都可能帶來人權災害。
在缺乏專法規範下,美國已超過40州開始應用臉部辨識,從學生夏令營讓父母監控子女,到航空公司、大賣場、餐廳比對前科犯。警方也在民眾不知情的情況下,利用監視器篩濾可疑嫌犯,然而,經常因辨識誤差,造成錯誤執法,侵害人權;美國丹佛一起案例裡,被誤認為銀行搶匪的冤獄受害者,花了一年才洗清罪嫌,但他因而失去工作、家人及子女探視權。
臉部辨識技術開發者大多為白人男性,因此,科羅拉多州一所大學研究指出,該技術人工智慧對於非白人男性、或性別特徵不明顯的臉孔,辨識準度幾近離譜。人權組織「美國公民自由聯盟(ACLU)」曾將國會議員的大頭照,輸入亞馬遜的Rekognition系統,高達28名議員被誤指為前科犯,其中多數為有色人種。
專研臉部辨識的專家嘉維(Clare Garvie)指出,目前此一技術應用有三大隱憂,一是執法單位蒐集駕照大頭照、監視器影像、社群媒體照片,建立公民影像資料庫,進而濫行搜索、逮捕,造成不當移送或冤獄;二是警方為增加辨識成功率,有時拼湊名人照片,導致更荒謬的偏差;三是對於不同族群的演算法偏見。
嘉維因而呼籲,政府應立即踩剎車,徹底檢視臉部辨識的潛在問題,並立法規範,否則,美國將成為「下一個中國」。
對於批評者而言,中國是個極致案例,從販賣機、小學校園、社區管制到交通號誌,無不積極應用臉部辨識技術。上海街頭的「智慧燈號」,會在行人闖紅燈時,即時顯示違規者的照片等個資;部分小學引進「智能課堂行為分析系統」,隨時監控學生坐姿、舉手、打哈欠等上課動態,藉此評估學習成果,甚至紀錄在校園內是否微笑、向老師問好、撿拾垃圾等行為,作為預警或糾正依據。
更別提飽受批評的新疆大規模監控,負責分析臉部辨識資料的深網視界(SenseNets),最近傳出200萬人的資料外洩,包括身分證號、性別、姓名、照片、過去24小時地理位置,幾乎都是維吾爾人。
尤有甚者,中國最新法規要求,所有申辦手機及網路的用戶,必須提供臉部辨識資料,與實名制相結合,未來,民眾上網及打電話的資料都在政府掌控中;手機訊號加上現場監控影像,警方就能即時掌握聚眾抗議者的身分。
當即時臉部辨識資料,搭配社會信用評分制度,中國被形容為完美的「圓形監獄」。由於臉部辨識被用於迫害新疆人權,10月初,美國商務部制裁28家監控技術的中國廠商,從監視器製造商,到臉部辨識資料庫公司,都不得與美國企業交易。
最近出版回憶錄《永久證據》的史諾登(Edward Snowden)、備受矚目的新鋭眾議員科爾特斯(Alexandria Ocasio-Cortez),最近不約而同批評,臉部辨識將是人類社會的最大威脅,且可能成為極權主義溫床。
究其原因,臉部辨識不像其他隱私個資,可以藉由密碼、匿名性、隱私選項、加密技術層層保護,臉部特徵形同一種公開資料,當你走在街頭、走進車站或學校、進出社區或飯店,就可能被記錄,被儲存,被分析比對,被資料擁有者私下交換,進一步「武器化」。
史諾登形容,「一台裝載AI的智慧監控鏡頭,絕不是單純的錄影機,更像是一個機器警察。」
香港抗爭者與政府《禁蒙面法》的博弈較勁,充分展示科技監控的威力與威脅,臉部辨識破壞了政治表態的匿名可能;但在許多情況下,「匿名性」是言論自由與政治行為的重要保護傘,香港中文大學新聞傳播學院院長李立峯舉例,民主選舉規定秘密投票,就在確保「匿名性」讓選民意志得以自由表達。
三、有沒有辦法兼顧便利性與隱私安全性?
隱私人權觀念相對成熟的歐洲或美國,正警覺臉部辨識的威脅性,並積極討論如何監管規範,聯合國人權組織也持續探討。目前看來,至少有三個原則,可以降低臉部辨識的風險,避免藏在便利性背後的傷害。
.知情權及同意權:
除了街道等不特定人進出的公共空間,任何特定場合(包括網路服務)蒐集臉部辨識資料,必須事先告知並取得同意。臉書擅自掃描並存取用戶的臉部辨識資料,遭美國裁罰50億美元就是一例。
去年,小天后泰勒絲的演唱會未告知歌迷,私下運用臉部辨識功能,比對是否有瘋狂粉絲混入其中,因而引發批評,認為不尊重其他歌迷。9月間,美國主要售票網站Ticketmaster計畫以「刷臉」取代門票入場,捲起反對聲浪,不少藝人出面抵制,才讓Ticketmaster打消念頭。
重要的是,必須讓參與者理解臉部資料的重要性與風險性,知情權包括「誰擁有資料、如何應用資料、誰可能接觸資料」;充分告知後,參與者若不願臉部資料被收集,可選擇戴口罩、迷彩塗裝或特殊眼鏡等裝置,避免自己被永久紀錄在資料庫裡。
.審議權及退出權:
事關基本權益的公共服務,必須先經審議程序,前述的紐約平價公寓或台灣校園設施,住戶及學生會都抱怨事先未被徵詢,無法提出質疑或反對,也不可能拒絕提供臉部資料。因此,無論是校園販賣機、圖書館或北市「智慧路燈」,這類獨佔性服務必須透過民主程序議決。
公共服務若以「刷臉」為主要條件,必須保留替代選項,像是海關護照查驗,目前以臉部辨識及指紋作為快速通關條件,一般民眾仍能選擇傳統查驗程序。同理,新版身分證等個資蒐集措施,也應讓民眾有「退出權」,不應一體強制施行,避免違反公民意願。
唯有兼顧審議權及退出權,才不會落入前述法國或印度的「數位福利國」流弊,一味強調電子化的便利,卻犧牲基層的抵抗權利。
.透明性及問責性:
最重要的是資料蒐集及應用過程的透明性與問責性。舉例來說,美國警察常配備穿戴式錄影機,目的是錄下執法過程,避免警方濫權。然而,當錄影設備連結臉部辨識資料庫,卻搖身變為隱匿蒐集個資的利器,因而被加州議會下令禁用。
因此,無論政府或企業,必須讓「蒐集臉部資料」一事,受到充分規範與監管。歐盟GDPR已將臉部辨識資料列入個資保護,台灣當務之急,包括透過個資法、消保法等條文修法,確立臉部個資蒐集的法律門檻,強化蒐集過程的透明與問責,避免政府或民間濫用。
很難否認,臉部辨識提供極大便利性,也有無窮應用潛力,然而,個人解鎖手機是一回事,政府或企業大規模蒐集臉部資料是另一回事。15年前,大法官釋憲認為,《戶籍法》規定申請身分證必須採指紋,留下可監控人民的敏感性資訊,法令手段與目的不相符,違反比例原則,因而宣告違憲,迫使戶政機關取消此一規定。