三、AI的政治應用
首先，根據公民實驗室4/13發出的更詳細說明，部分金鑰由中國伺服器派發，並不表示中國政府立即全程監聽；另一方面，根據中國的「网络安全法」（中共官方、百度）第28條，「网络运营者应当为公安机关、国家安全机关依法维护国家安全和侦查犯罪的活动提供技术支持和协助。」中共政府若向Zoom要資料，是於法有據的。
那麼中共政府拿到一堆影音資料可以幹嘛呢？看到噗友Thinker的提醒，我再加以延伸如下。
聽過基於Face Reenactment換臉技術所產生的AI假色情吧？為什麼實驗短片拿美俄總統作例子？為什麼電影明星是假色情片的最大宗受害者？因為他們的公開相片特別多，特別適合拿來訓練AI。當初他們在公開場合被拍照的時候，會覺得隱私被侵犯嗎？
聽過劍橋分析公司的OCEAN五大人格分析吧？（中文、英文）只要讀到你在臉書上的10個讚，它就比同事更了解你。70個讚可以贏過室友，150個讚贏過父母手足；給它300 個讚，它對你的了解將更勝於另一半。當初你在臉書上按讚的時候，會覺得隱私被侵犯嗎？
我常告訴學生：你我的隱私，就是他們（廠商或各國政府）的大數據。事實上不只，還有那些（我們不認為是隱私的）公開與半公開網路活動也都是。
中共對你我每一個單獨的個體也許並不特別有興趣，但是透過Zoom大量蒐集全台民眾的影像、聲紋、語彙、表情⋯⋯這就是大數據，這就是訓練AI做有趣的事時所需要的基本資料。
能拿來做什麼邪惡的事？The Malicious Use of Artificial Intelligence這份報告勾勒了一些可能的未來，但光看過去就夠恐怖了：知道劍橋分析如何成功影響了千里達大選嗎？（延伸閱讀｜間諜工程師的懺悔：為政府做保存人民生平紀錄的系統，是悲劇性錯誤）
事實上，認為「中共對每一個單獨個體沒興趣，所以我沒什麼好怕的」這未免也過於樂觀。
對於掌控AI技術的人或團體來說，最方便的就是他不需要費心關注每一個個體，只需要描述特質，就可以對符合________（請填各種條件）的所有個體全面________（請填各種動詞）。
舉兩個具體的例子：可節省90%農藥的AI除草機器人以及根據FB轉貼文章追蹤目標的殺手機器人。容我發明一個關鍵詞：地毯式個性差異化精準聚焦。
如果你是中共，會不會把深圳與香港之間的通關系統，跟反送中街頭影像資料庫的人臉辨識系統，以及微信敏感發言記錄連結起來，用AI自動找出「可疑人士」，進行拘捕、逼著按指模、抽血、寫悔過書（甚至是製造被失蹤）呢？
那些沒有讀本文、或不理會本文的老師們，未來幾個月或幾年的網路課程和親友線上聚會裡，敢保證自己說的話都很安全，都不會碰觸到中共的敏感神經嗎？以後在香港轉機時，會不會遭遇什麼樣的特別對待呢？還有，聽課的學生們（及他們在中國的家人）的人身安全你可以負責嗎？
那些意識到Zoom的潛在風險的老師們，以後上課時會不會自我言論管制，減少對中共的批評呢？貼一張動物森友會的惡搞截圖，有沒有關係呢？（延伸閱讀｜除了惡搞政府，全球玩家還在「動物森友會」做哪些現實辦不到的事？）
電腦老師，還敢教翻牆嗎？可以談防火長城與進擊的網路巨炮嗎？
歷史老師，還敢談維吾爾族的文化歷史嗎？宗教研究老師還可以談法輪功嗎？
醫學院的老師，還可以談器官移植的正常與不正常供給量嗎？
科技倫理或醫學倫理課程的老師，還敢拿發生在中國的案例來解說嗎？
記得，高層不需要認識你；他只需要對AI下指令，海撈拒絕變成被收割愛國韭菜的那些不聽話的雜草們，反共人士，你就有可能被撈到。
哦，對了，AI也會犯錯哦，例如準確率高達九成、可以從相片識別同性戀的gaydar技術。
你覺得中共在乎錯殺一百嗎？你真的相信進新疆集中營的，通通都是恐怖份子嗎？
「在Zoom教室裡把我的專業顧好，反正我的課程教學沒有什麼機密，我也不是反共人士，只要心中的小紅衛兵顧好自己的嘴巴，我幹嘛要怕中共跨海監控呢？」
真的嗎？
四、握有絕對權力的黑箱技術物
程式碼不只是具有高度政治性技術物，Lawrence Lessig甚至寫了一整本書解釋程式碼就是法律。（或許改翻譯成程式碼就是法則更能減少誤解）程式碼是握有絕對權力的技術物，當你被它統治時，你必須全盤接受作者所定的規則，沒有商量的空間。
「強制更新」是Windows電腦教室用戶每天要面對的愚蠢「法律」——還原卡讓更新變得沒有意義，但這是微軟的統治規則，你只能乖乖吞下去，就算十幾年前早已被征服的校長們願意集體跪下來求微軟也沒用。圖片來源：巴哈姆特
以前，學生如果拒絕使用微軟的IE，台銀就拒絕讓你申請就學貸款；到了今天，私校老師如果拒絕安裝Adobe的flash，就別想（透過email）查看自己的退撫儲金對帳單。iPhone用戶與電腦連線時，暫時信任它一次，就被蘋果強迫必須信任它一輩子。程式碼是握有絕對權力的技術物。
如果管理你的法律，你甚至無法閱讀，那就更可怕了。
Zoom的最大問題不是bugs，而是隱匿與欺騙。偷傳金鑰，部分金鑰由中國北京的伺服器派發卻未告知用戶、聲稱支援（安全的）「end-to-end encryption」，但實際上是卻是文字遊戲。
你一旦用了Zoom，就允許中共（的AI）全面監控你和你的學生，這是Zoom會議室的法律。但你甚至沒有被告知——眾人（包含傻傻的教育部）一開始都被蒙在鼓裡；直到公民實驗室以逆向工程方式實驗，才揭發出這個黑箱法律。（延伸閱讀｜當紅視訊軟體Zoom曾自啟鏡頭、開發團隊在中國 中研院學者：使用前留意7件事保資安）
Zoom會議室裡，還有沒有其他未爆的黑箱法律？除了Zoom的少數關鍵員工，其他人很難回答，因為我們看不到它的原始碼。
當然，基於效率、便利、熱門程度、經濟、品牌忠誠⋯⋯等等其他因素，你還是可以選擇活在一個不自由、不民主、由黑箱法律所管理的會議室（或國家）。不過，現在你選擇接受哪一個會議室的法律，未來就要自行承擔結果。
事實上，在我們自由軟體用戶的眼裡看來，Windows世界的大家一直在承擔錯誤選擇的後果。
（本文獲作者授權，原文標題為〈由中國發金鑰的Zoom、臉腫的教育部、很政治的技術物〉）
【延伸閱讀】
Zoom資安政治學（上）｜政府與學者危機感太低，甚至成廠商代言人
Zoom資安政治學（下）｜微軟、斯科都有侵犯隱私前科——但你還有這種軟體可用
