根據《美國之音》報導，美國網路分析公司Graphika於2月7日發布研究報告，題為《深偽直到搞定：親中行動者在網路影響力活動推廣AI合成虛擬人物影片》（Deepfake It Till You Make It: Pro-Chinese Actors Promote AI-Generated Video Footage of Fictitious People in Online Influence Operation），指出播放虛擬新聞的是名為《狼新聞》（Wolf News）的虛擬新聞媒體。
Graphika情報副總裁斯塔布斯（Jack Stubbs）向《法新社》（AFP）表示，這是他們首次觀察到使用深偽技術生成的AI虛擬人物，來幫國家政權宣傳政治內容的欺騙行動。
Graphika自稱，在數位行銷與假訊息分析擁有專利技術與獨特分析能力，著重以圖表呈現與分析網路互動脈絡關係，而不僅是分析對話與消息內容。創辦人凱利博士（John Kelly）曾經在哈佛大學伯克曼－克萊因中心（Berkman-Klein Center）參與研究十多年，於2013年募資創辦Graphika，為許多商業、學術、非營利事業客戶分析與繪製網路脈絡圖。
以深偽技術為中共宣傳之首例？
Graphika報告指出，連研究人員都差點以為影片中虛擬主播是真人，後確認是以AI軟體製作，畫面不自然並且以生硬的機器人英語配音，內容不僅為中共宣傳，並且詆毀美國政治。例如，虛擬女主播強調中美關係的重要性，宣稱美中兩國合作可促進全球經濟復甦，另位虛擬男主播則貶抑美國無力解決槍支暴力問題。
該報告表示，幾乎可以確定兩位虛擬主播影片，是以英國倫敦人工智慧公司Synthesia「AI影片創作平台」（AI video creation platform）技術製作。Synthesia在官網表明，該公司軟體能以深偽技術根據真人影片創造虛擬人物，然而未具體回應對Graphika報告之指涉與查詢。
《自由亞洲電台》則指出，Synthesia拒絕透露此事件相關訊息，但表示《狼新聞》帳號已被停用，並稱其技術不准許使用於政治、色情、私密、犯罪、歧視等內容。
Synthesia的AI影片創作平台可創造虛擬人物影片。圖片來源：截自Synthesia網站
Graphika表示，2022年底意外在推特、臉書、YouTube等平台觀察到「垃圾偽裝」（Spamouflage）實例，此為一種親中影響力行動，內容有虛擬人物影片，幾乎肯定是以AI技術製作。如今雖然已有許多以AI合成圖像或操縱媒體的案例，但這是他們首次觀察到如此宣傳國家政權。
Graphika表示，儘管本案AI合成頭像栩栩如生，然而這種「垃圾偽裝」仍屬低品質的垃圾內容，所觀察的影片沒有一個超過300次點閱，反映其政治宣傳內容難令人信服，發展仍面臨挑戰。斯塔布斯也表示，「儘管用了些複雜技術，但這些影片看來大同小異，顯示仍有其侷限性。」
但該報告也警告，在同業競爭等因素下，這種欺騙性內容的製作規模品質與速度會迅速提升。（延伸閱讀｜150位女藝人受害！日本AI「假A片」嫌犯首度落網 小心你的自拍照被合成）
成為中俄認知作戰之利器
《美國之音》指出，人工智慧進步至今已可憑空製作深偽影片，並被濫用於傳播假訊息，後果嚴重。譬如去年知名深偽影片案例，是烏克蘭總統澤連斯基（Volodymyr Zelensky）敦促公民放下武器向俄羅斯投降，臉書母公司Meta曾對此表示迅即在所屬平台進行澄清與刪除。
中共當局並未回應Graphika這份報告，然而去年四月曾經公開警告「深偽技術挑戰國家安全和社會穩定」；此外巧合的是，數週之前，中共當局才重申深偽技術恐被不法人士用來「危害國家安全和社會穩定」，並且發布《互聯網信息服務深度合成管理規定》，要求提供深偽技術服務的企業須取得客戶真實身份，並且標記其為深偽合成之內容，以免觀眾誤認。
《紐約時報》2月9日指出，中國人工智慧企業研發深偽技術已經超過五年，2017年中國科大訊飛公司（Iflytek）曾製作與發表當時美國總統川普的中文演說深偽影片；結果該公司隨即被美國政府列入限制採用美國技術的黑名單，理由是危及國家安全。
Meta平台曾有烏克蘭總統澤連斯基向俄國投降的影片，事後證實為深偽技術製作的假訊息。圖片來源：Shutterstock
為阻止深偽技術惡行擴大威脅，去年初，多家軟體、晶片、社群媒體等企業組成「內容來源和真實性聯盟」（C2PA），成員包括Adobe、BBC、英特爾、推特等。根據《日經新聞》報導，C2PA計劃擬定「顯示竄改資訊」通用標準，期望凡是竄改、後製、編輯過的資訊都應公開透明，並取得真實性認證。
深偽技術或許還處於易於識破的發展階段，然而從中國與俄羅斯近年諸多案例可見，它已在認知戰與資訊戰戰場上被用來大顯身手，發展速度也超乎想像。倘若結合抖音（TikTok）等高滲透力的短片平台迅速傳播，其威脅性更為可觀，實不容自由民主陣營掉以輕心。（延伸閱讀｜英國公務用車數據可能遭竊，再度凸顯中國滲透威脅）
關於AI與生成技術，你還能閱讀以下文章：
