這位2021年赴美留學的美女網紅洛伊克(Olga Loiek)才21歲,2022年二月,她的祖國烏克蘭遭到俄羅斯入侵,戰事至今已兩年餘。洛伊克原本對網友的提醒不以為意,但意識到自己明明不會講中文,卻看到自己的臉在講中文,而且「背景是克里姆林宮和莫斯科」。
深偽洛伊克用道地中文說「如果你娶俄羅斯女人,我們每天會幫你洗衣、做飯、洗碗。」「我們還可以生外國寶寶,要多少有多少。」並且盛讚中國「很多地方早已遙遙領先美國」「在中國生活實在是太方便了」「我愛中國、我愛中國文化、希望餘生都住在中國。」等等。
不僅「愛中國」,深偽的洛伊克還批評國際對俄羅斯的制裁,並說「中國和俄羅斯是好鄰居,中俄友誼長存。」
這點使洛伊克極為光火。因為她的國家正遭受俄羅斯侵略,表示「在烏克蘭受到空襲時,我的家人不得不躲在防空洞,成千上萬的烏克蘭人因俄羅斯的侵略而流離失所或者傷亡。」眼前的「複製人」騙術竟在同情俄羅斯,讓她自覺受到嚴重侵犯,甚至毛骨悚然。
洛伊克遭產出許多與中國利益相關的深偽內容,且難以全數下架。圖片來源:截自Olga Loiek YouTube
盜臉為中俄進行政治宣傳
《路透社》報導,洛伊克的容貌被不肖分子盜用,利用人工智慧深偽技術,化身中國網路上「熱愛中國的俄羅斯女子」娜塔莎(Natasha)等人,認真傾訴愛慕中國、想到中國生活、感謝中國對俄羅斯的友誼等等。
洛伊克表示,「那些根本不是我!他們盜用我的臉,為中國與俄羅斯進行政治宣傳。」據悉這些深偽洛伊克帳號分布在抖音(TikTok)、小紅書、Bilibili等平台,在中國短短幾個月累計數十帳號,擁有數十萬粉絲,發布數千支個短片,如今雖有部分下架,但難以禁絕。
這些影片幕後推手不明,《紐約時報》指出,許多影片最終會導至商品連結,主要目的可能是商業行為,訴求對象是所謂「愛國」的中國男性。
洛伊克開設YouTube頻道短短一個月,便受到深偽技術攻擊。圖片來源:截自Olga Loiek YouTube
另有分析認為,影片中熱愛中國、中俄情誼等政治訴求,可能是較能「政治正確」避免下架的護身符。義大利波隆那大學(University of Bologna)法律技術研究員艾米海因(Emmie Hine)就指出「尚不清楚這些帳號是否出於共同目的,但推廣符合政府宣傳的內容,肯定有利。」「即使與中共沒有直接關係,但只要打著民族主義口號,就能降低被刪除的風險。」
此外,中國國家互聯網信息辦公室於2023年七月十日公布《生成式人工智能服務管理暫行辦法》,成為全球首部針對生成式AI的立法規範。該法規定提供生成式AI服務的平台應承擔「網絡信息內容生產者責任」,除了嚴格規範暴力、仇恨、色情,重點是必須遵守「社會主義核心價值觀」,不得生成「煽動顛覆國家政權、推翻社會主義制度、危害國家安全和利益、損害國家形象、煽動分裂國家、破壞國家統一和社會穩定」等訊息。
所以,當這些深偽影片遵循中共政治「主旋律」時,可能是為了自保,卻也使這些陳腔濫調淪為國際笑料。(延伸閱讀|親中反美AI假新聞台遭停權!倫敦AI公司:技術不許用於政治、色情、犯罪)
濫用AI宣揚親中反美
2022年美國研究機構首度發現,利用深偽技術製作的親中反美新聞影片在網路盛傳,影片中以假亂真的虛擬主播來自AI合成,內容主為政治宣傳。該機構呼籲世人重視這種利用AI迅速發展的國家級欺騙行動。
當時《美國之音》報導,美國網路分析公司Graphika於2023年二月七日發布《深偽直到搞定:親中行動者在網路影響力活動推廣AI合成虛擬人物影片》研究報告,揭露所謂《狼新聞》(Wolf News)播放虛擬新聞。
Graphika表示,2022年底意外在推特、臉書、YouTube等平台觀察到「垃圾偽裝」(Spamouflage)實例,這種親中影響力行動幾可肯定是以AI製作虛擬人物影片,這是他們首次觀察宣傳國家政權的欺騙行動。
《紐約時報》則於2023年二月九日指出,中國AI企業研發深偽技術已超過五年。2017年中國科大訊飛公司(Iflytek)曾發表當時美國總統川普的中文演說深偽影片,後來該公司因危及國家安全,被美國政府列入限用美國技術黑名單。
《自由亞洲電台》則報導,2023年12月14日澳洲智庫「澳洲戰略政策研究所」(ASPI)發布報告指出,YouTube已經有數十個節目使用AI技術宣揚親中反美言論,顯然要影響英語族群對於中美兩國在國際政治的看法;這些吹捧中方唱衰西方的「大外宣」節目,很可能是受到中國政府指導或者支持。
ASPI報告表示,自2022年以降,至少已有30個YouTube節目使用AI技術宣揚中共政績或國際形象,包括中國在美國制裁下贏得科技戰,還掌握關鍵礦產,描述美國正走向崩潰,且與盟友關係正在破裂;強調中俄兩國是國際地緣政治負責任與值得信賴的參與者,並且有能力進行大規模基礎建設。
這些影片吸引超過一億人次觀看,並有70多萬人訂閱。報告作者基斯特(Jacinta Keast)表示,這些影片大多使用相同的圖片,標題相近,可以推斷來自同一個製作團隊。
報告警告,不僅國際社群媒體平台應持續監督調查假帳號的大外宣,也應該要求創作者表明內容是否使用虛擬影音;各國政府也應適時公布調查,並與盟國交流相關訊息,方有助於避免假消息扭曲民意,影響社會與決策。
令烏克蘭美女網紅洛伊克深感驚悚的AI冒用身份故事,已經被媒體追蹤報導逾半年,結果仍相當令人無奈,濫用AI威脅個人與國家安全的問題,短期內難有解方;提高警覺公告周知,縱使顯得消極,仍是保衛安全的必要之舉。(延伸閱讀|英國公務用車數據可能遭竊,再度凸顯中國滲透威脅)




