良心會痛!近6成AI工程師承認:曾開發傷害社會的產品

良心會痛!近6成AI工程師承認:曾開發傷害社會的產品
「劍橋分析」公司前員工爆料,公司曾在美國大選中利用臉書個資協助川普當選。圖片來源:衛報Youtube影片截圖
2019-07-23
文.曾彥菁
10600
英國政府發表一項研究報告,28%科技從業人員擔心他們的研發成果,將為社會帶來負面效益,其中有18%人曾因為道德疑慮而離職。而這樣的擔憂,在AI產業特別高⋯⋯

今年四月,英國政府發表一項研究報告,發現28%科技從業人員擔心他們的研發成果,將為社會帶來負面效益,其中有18%人曾因為道德疑慮而離職。這樣的擔憂在AI產業特別高,將近六成(59%)員工曾發開發他們認為會對社會有害的產品,其中超過四分之一(27%)的人因此離職。

這份由英國數位文化媒體與體育部(Department for Digital Culture Media and Sport)委託Doteveryone調查報告,名為《人類、力量與科技》(People, Power and Technology),共訪問了1,010位英國科技工作者。

這些站在科技發展的最前緣的第一線從業人員,有45%的人認為,現行科技規範過於鬆散,可能造成的負面效應包括:科技成癮、減化或激化的社會互動、自動化導致的失業及產品釋出前的安全測試風險等。他們擔心技術遭有心人士濫用,自己反而成為惡人的幫兇。

多數員工呼籲應該慢下腳步,好好省思這些科技將帶來的影響;並希望公司更清楚地指引與規範明確的領導責任,而政府也應事先警覺並規劃法規。

除去可能的負面考量,大多數的科技人員仍相信科技能帶來正面效益,改善人類生活。報告統計,91%的人認同科技為個人帶來助益,也有81%的人肯定科技為社會帶來進步。只是,這一切都需要縝密規範,才不致使強大的科技失控。

近六成AI從業人員認為自己曾開發對社會有害的產品。圖片來源:《人類、力量與科技》報告截圖

【延伸閱讀】懶人包|Google終止合作!華為新手機將不能用YouTube等服務,其實美國最擔心的是5G?

劍橋分析員工揭秘:公司取個資操作,助川普贏得大選

近年來,有多起科技公司內部員工主動揭發公司惡行的案例。其中最轟動全球的,莫過於去年3月的「劍橋分析事件」(Cambridge Analytica)。

這間總部位於紐約的數據分析公司,遭離職員工、同時也是共同創辦人之一的數據科學家懷利(Christopher Wylie)爆料,公司在2016年美國總統大選時,曾不當獲取5,000萬筆臉書用戶資料,並藉此操作廣告及假訊息等,協助川普登上總統大位。

劍橋分析會根據用戶喜好給予不同資訊,例如針對死忠支持者,就投放川普富有權威感的影像,增強認同;對於中間選民,則不放川普照片,改以其他知名支持者群像,呈現出川普的人氣。

懷利表示:「你不能稱劍橋分析為一間單純的數據分析公司,他完全就是一部宣傳機器(propaganda machine)!」

數據分析公司離職員工爆料,前東家不當獲取用戶個資並操作總統大選。圖片來源/YouTube截圖

沒過多久,劍橋分析公司前商業開發主任凱薩(Brittany Kaiser)接受訪問,還分享內部商業簡報,上面包含了他們如何為川普贏得選戰的細節。

凱薩表示,雖然她的政治傾向偏民主黨;進入公司前,甚至曾為希拉蕊募款。但她認為,「當你被訓練為一位政治顧問,你就要能夠拿出專業表現,不管對象是誰。」

她同時提醒,臉書、Google、亞馬遜等公司都靠著監控用戶的數據賺錢,客戶資料就是他們最值錢的資產,「人民應該小心保護個人資料,但事實上很少人會去注意到這項基本人權。」

後來,劍橋分析與臉書都遭到司法調查,龐大的律師費與紛紛出走的客戶,導致劍橋分析在2018年五月宣告破產倒閉,臉書則是遭罰新台幣2,000萬。

【延伸閱讀】資安黑洞!讓蝦皮和YouTube讀你的簡訊和通訊錄,你也按下「同意」了嗎?

Google助中國屏蔽敏感關鍵字,激怒自家員工

2018年8月,科技大頭Google也被爆將與中國政府合作「蜻蜓計畫」(Dragonfly),引發內部員工不滿。

2010年,Google因內容審查問題退出中國市場。然而,去年啟動的蜻蜓計畫中,Google應中國政府要求,研發可屏蔽敏感關鍵字的搜尋服務,同時將與政府合作蒐集用戶個人資料。

此舉引發公司內部員工不滿,並發起連署抗議。

們的聲明中表示:「我們對蜻蜓的反對不是關於中國,我們是反對技術,這些技術可幫助有權勢的人壓迫弱勢群體。政府當然不是唯一扼殺言論自由的群體,但中國的蜻蜓將建立危險的先例,這會使 Google 更難拒絕其他國家未來也要求類似的讓步。」

「Google 太強大,無法不負責任。我們應該知道自己正在建設什麼,我們應該在這些重大決策時發表自己的意見。」

【延伸閱讀】中國用人工智慧推社會信用評分,拿低分連高鐵票都買不到

Google前執行長施密特(Eric Schmidt)在今年五月受訪時表示,他相信Google與中國的合作,「將幫助中國更加開放。」他也表示,Google會充分告知員工開發的技術將被如何運用。

然而,高達九成的員工都表明不知道蜻蜓計畫的內容,也不知道自己的工作原來是此計畫的一部分。

在抗議浪潮下,Google暫停了蜻蜓計畫。不過,今年三月又被爆料,他們仍私下成立委員會評估重返中國的可能性。直到五月份,Google在提供給股東的委託書中,正式告知已取消蜻蜓計畫。未來如何將有待觀察。

身為第一線人員,科技業員工比常人更清楚科技的力量與代價。也許,當第一個吹哨人並不容易,但當有更多這樣的良心之士出現,我們或許得以與惡保持安全距離。

其他人也在看

你可能有興趣

影音推薦

#廣編企劃|【2023 天下城市高峰論壇 #9】新竹市交通處長 倪茂榮:改善交通,必須先做出優良示範道路|天下雜誌✕未來城市

已成功複製連結