立即加入會員
取得專屬服務

正義或邪惡?傳陣亡孩子遺照給俄國母親 臉部辨識AI助攻烏克蘭惹議

正義或邪惡?傳陣亡孩子遺照給俄國母親 臉部辨識AI助攻烏克蘭惹議
烏克蘭IT部隊將透過臉部辨識,將身亡俄軍照片傳給士兵家人,引發爭議。圖片來源:Shutterstock
2022-04-25
編譯・王茜穎
11911
明明已是春天,枝頭卻一片葉子也無。大地焦黑,坦克壓境,烏克蘭軍人拿著手機,對著地上一具俄國士兵屍體拍照。

手機裡的人臉辨識APP Clearview AI,會自動比對200億張人臉——皆是從社交媒體和公開網站抓下來的,其中10%來自俄羅斯最大的社交網站VKontakte——陣亡士兵的身份呼之欲出。

透過烏俄流行的通訊軟體Telegram,烏克蘭IT大軍向一位俄軍母親告知其子死訊,附照中是一名倒在泥地裡的男性,面孔猙獰,嘴巴張開。

「你為什麼要這樣做?你想讓我死嗎?我已經不想活了。你肯定樂在其中吧。」那名母親不可置信,不相信那是自己的孩子。

下則訊息給了她致命一擊。

新傳來的照片裡,戴著手套的手握著該名男子的軍事文件。陌生人的訊息說,已有成千上萬的年輕人死去,「(這是)阻止這所有瘋狂行徑的唯一方法,還要死多少人?」

逼老母親直面孩子的慘死,十分殘忍;烏克蘭希望這劑「猛藥」能激起俄國民眾對戰爭的不滿,讓其他俄軍怕被肉搜而不敢犯下戰爭罪,並加速戰事結束。

烏克蘭-IT-IT ARMY of Ukraine-俄羅斯-烏俄戰爭-臉部辨識-AI烏克蘭IT部隊透過AI辨認俄國軍人身份,進一步聯絡軍人家庭。圖片來源:截自IT ARMY of Ukraine Telegram

根據《華盛頓郵報》四月中的報導,烏克蘭官方迄今已用Clearview AI進行超過8,600次人臉搜尋,對582個俄國家庭發出死訊,並附上遺體照片。

Clearview AI曾被美國警方、聯邦機構用於追緝嫌犯,《華盛頓郵報》認為這是「該科技至今最毛骨悚然的應用」。

烏克蘭副總理暨數位轉型部長費多羅夫(Mykhailo Fedorov)發文表示,他們是為了突破俄國的資訊封鎖,向俄國民眾揭露戰爭的代價,以及駁斥俄國官方宣稱這是一場「沒有徵兵」「無人死亡」的「特別行動」的謊言。

然而,專家警告,這種利用至親傷痛的極端行為,恐適得其反,激怒俄人。

這一切的始作俑者是Clearview AI執行長宦孫至(Hoan Ton-That),他告訴《紐約時報》把人臉辨識導入戰場的念頭始於一則俄軍戰俘的影片,「俄羅斯聲稱他們是演員⋯⋯我就想烏克蘭人若能用Clearview AI,就能獲得更多核實他們身份的資訊。」

三月初,他托人帶信,跟烏克蘭國防部接上線。

宦孫至告訴《華盛頓郵報》,烏克蘭已有五個政府部門、超過340名官員可使用Clearview AI;為此,Clearview AI還將界面翻譯成烏克蘭語,而且強調一切無償。「幫助烏克蘭是我的榮幸,」他告訴《紐約時報》。

無人機鏡頭、衛星圖像、照片、影片,無所不在的眼睛,從高處注視著這場戰爭,辨識每一張敵人的臉孔。

儘管如此,三月底接受《華盛頓郵報》專訪時,費多羅夫仍避重就輕,聲稱自己寫了太多信,記不得是否曾主動去信Clearview AI。

相較於費多羅夫的迴避,Clearview AI就顯得非常積極,主動向《紐約時報》《華盛頓郵報》等西方媒體出示與烏克蘭三個官方單位的通信,其中包括烏克蘭國家警察、國防部和一個不願具名的公部門。

烏克蘭國防部信中表示,他們測試用Clearview AI來掃描陣亡俄軍的臉,結果令他們「感到驚喜」。宦孫至向《華盛頓郵報》表示,烏克蘭官員親眼目睹一張屍體照能幫他們收集到多少數據,如家庭照、社交媒體帳號和人際關係細節等,多次發出「哦,哇」的讚嘆。

除了戰場緝凶,不願具名機關官員向Clearview AI透露,他們用其來辨識戰俘身份,檢視其社交媒體往來,以排除俄國間諜、可疑份子,光前幾週的搜索就已破千。

Clearview AI甚至抓到了趁亂洗劫民宅的戰爭竊賊。費多羅夫在推特上發布一張監視畫面截圖,Clearview AI辨識出影像中是一名俄國特種兵,曾在布查犯下暴行,洗劫烏克蘭人後,跑到白俄羅斯的快遞公司把贓物快遞回國。

費多羅夫發話:「我們會找出每一個兇手。」

Clearview AI證實,每週都透過Zoom培訓新的烏克蘭警察和軍官,有時甚至頻繁到每日。

但臉部辨識技術並不完美,一旦失誤,最直接的就是錯認屍體,傳錯死訊,或將無辜之人誤認為敵軍,陷人於險境。

過去的研究已指出,AI是一個性別種族歧視者,男人的臉部辨識準確率高於女人,白皮膚的高於黑皮膚的,認錯時有所聞。演算法複製了人類的歧視與偏見,進行大規模的黑箱歧視,卻無從問責。

數位權益團體「為未來而戰」(Fight for the Future)副主任葛里爾(Evan Greer)擔心,這些科技公司利用戰時的監管真空,伺機擴權,把戰場當監視工具的試驗場。「Clearview AI 之屬的公司急於利用烏克蘭的人道危機,以正常化他們有害且具侵犯性的軟體,」葛里爾接受《紐約時報》採訪時提出警告。

英國科技研究者黑爾博士(Stephanie Hare)直接砲轟,該公司擺明想利用烏克蘭做宣傳,「發戰爭財」。

宦孫至向《華盛頓郵報》喊冤,表明其唯一的目的,就是協助保衛被侵略的烏克蘭;但不否認這有助其向潛在客戶展示火力,「(這場戰爭)提供了良好範例,讓其他美國政府部門見識到這些實例如何運作。」

事實上,美國國會議員去年已提案立法,禁止聯邦採購Clearview AI等臉部辨識資料庫,獲兩大黨聯名支持,理由是其圖像是「非法取得」。傳統的臉部辨識軟體,僅能比對駕照、護照或入監服刑照等官方照片。

Clearview AI-臉部辨識-照片-資料庫-個資-隱私-AIClearview AI從社群媒體、公開網站蒐集個人照片,擁有龐大資料庫。圖片來源:Shutterstock

對此,Clearview AI的律師表示,該案法源〈憲法第四修正案〉並不保護下載和分析人們自願上傳至網路的照片​;Clearview AI亦辯稱,其數據庫只提供給執法單位(編按:美國新聞網站BuzzFeed於2020年取得內部文件揭露,Clearview AI的私人客戶橫跨娛樂、賭場、NBA、健身集團、零售龍頭、銀行等,並非如其所述僅限於執法單位)。

Clearview AI因未經所有者授權,從社交媒體和公開網站收割大量照片並銷售,有侵犯隱私之嫌,在國際上惡名昭彰。不僅美國政府、歐盟介入調查,還有多起官司;加拿大、英、法、澳、義等國認定其非法擅用個人照片,還要求刪除其國民數據。

Clearview AI也有對策:長大到沒人動得了它。

《華盛頓郵報》二月的調查報導揭露,去年底,該公司私下告訴投資人,他們計畫募資5,000萬美元,以擴大對私人客戶的服務;並預計在一年內將數據庫擴增至1,000億張臉部圖像,其規模之大,足以辨識整個地球的人。

挾其龐大數據庫,他們將開發新產品,擴大國際銷售團隊,並砸更多錢私下遊說政府,制定有利於Clearview AI的法令。

烏俄之戰,只是再次將臉部辨識爭議吵上檯面。

有些分析師樂觀地認為,烏克蘭大可展現不同於俄羅斯的氣度:當俄國用臉部辨識打壓異己時,烏克蘭可用於人道救助;彷彿科技是一把刀,善良是一種選擇。但缺乏有效監管,這個世界能依靠他人的「善良」來維權嗎?

科技與惡的距離,不能只靠一念之間。(延伸閱讀|烏俄網路大戰 專家:中國駭客也在台灣埋了「數位定時炸彈」

其他人也在看

你可能有興趣

影音推薦

【2022.SDGs國際論壇 #2】中央、地方、產業 永續利害關係人如何協作?|永續議題分析與利害關係人協作

已成功複製連結