反制換臉技術 假面騎「識」即時偵測防堵詐騙

反制換臉技術 假面騎「識」即時偵測防堵詐騙
透過檢測平台,能查出靜態照片、動態影片是否使用深偽技術。圖片來源:長庚大學研究團隊
2023-01-19
文・張倩怡(大學報) 圖・長庚大學研究團隊
28970
近年深偽技術(deepfake)快速發展,為影片中的人換臉已不再是難事,但也導致利用此技術的詐騙案層出不窮。

長庚大學資訊管理學系學生團隊開發「假面騎『識』」的deepfake換臉即時檢測平台,除可辨識照片和影片外,更可即時檢測視訊是否有使用深偽技術。此發明獲得2022大專校院資訊應用服務創新競賽資安組第二名。

當今深偽技術發展快速,線上有許多免費的換臉程式遭到濫用,進而出現大量偽造影片。根據資安公司Sensity的資料顯示,2018年12月起偽造影片的數量每六個月就增加一倍,引發不少社會事件,如冒充名人進行詐騙。團隊成員朱哲弘說明,「最初是因小玉deepfake換臉A片事件而引發我們做現在的檢測系統。」

團隊使用1萬3,000張圖片訓練模型,並以手動標記資料,選取出理想的人臉範圍。朱哲弘表示,為求準確,「我們很多都是一張一張去標記的。」接著,再透過讓AI學習人臉特徵,分辦有無使用深偽技術。系統除了可偵測常見的照片及影片外,團隊更因應線上化的趨勢,新增即時通訊也能使用的檢測功能。使用者只需將線上會議視窗名稱輸入至系統中,網站即會將資料傳送至後端已訓練好的模型進行分析,此功能亦適用於大部份的即時通訊軟體。

團隊成員高語澤提及,現今其實有更準確的演算法訓練方式,不過視訊相較於一般辨識更講求速度,因此團隊選擇YOLOv5是物件偵測的類神經網路演算法,可在圖片中找到特定的物件。而V5版本的準確度稍遜於現今最新的V7版本,但有更高的靈活度和速度,更適合用於即時通訊上的偵測。演算法。指導老師長庚大學資訊管理學系副教授陳宜惠也認同地表示,除了準確度,保持通話品質同樣重要,「如果有延遲是不可以接受的,要讓使用者是無感才可以。」

此外,團隊也坦言,雖然系統已滿足大部份需求,不過仍舊存在不足,「現在系統只能在電腦網頁使用,如果推出手機程式,視窗可能就會跳掉而無法偵測,加上現在系統可能被鏡頭的髒污或有些人使用濾鏡都會造成誤判。」

長庚大學-假面騎「識」-deepfake-深偽-換臉-詐騙-AI-機器學習在換臉即時檢測平台上輸入影片ID,即可偵測畫面是否使用深偽技術。

目前系統可做到約85%的準確率,但深偽技術發展快速,偽造的影片只會越來越精緻以致更難識別。成功大學數據科學研究所助理教授許志仲表示,目前所有的偽造方法,通常依然強過於偵測方法,「此系統的功能僅限於常見且品質較差的換臉技術,但我認為越來越多人開發,會在意識層面上,降低製作偽造的(影片)比例。」他也建議,系統可加入使用者端的回饋機制,使系統更加完善。

長庚大學-假面騎「識」-deepfake-深偽-換臉-詐騙-AI-機器學習長庚大學研發的檢測平台,獲得2022大專校院資訊應用服務創新競賽資安組第二名。

深偽技術還有哪些應用?未來城市為你整理以下文章:

(本文授權自大學報


延伸閱讀

AI辨識手寫軌跡 生成獨有書法字體
龍華科大創臉控輪椅 助手腳失能者自主行動
監控系統結合視聽技術 遠端通報強化居家安全

其他人也在看

你可能有興趣

已成功複製連結