在生成式人工智慧的助攻下，假消息追蹤組織NewsGuard發現，AI生成的假新聞網站在半年內成長超過1000%；部份網站每天可生成數百乃至數千篇假新聞，真正的鬼話連篇，而且還翻成15種語言。
境外勢力當然不會錯過。去年九月微軟警告，他們發現中國創大量假帳號，利用生成式AI「模仿美國選民」，散布假消息，企圖影響美國大選。
中國運用生成式AI，透過假帳號傳播假消息，影響美國選民的決定。圖片來源：Shutterstock
AI助選員日打萬通電話，生成式AI操弄16輿論
即便是美國自己，不分黨派，上至總統候選人下至選議員，都爆出競選廣告中用AI改圖、語音複製、深偽影片（deepfake）等，最近甚至進化到用個人化AI助選員打電話催票。
民主黨員丹尼爾斯（Shamaine Daniels）兩年前以不到10%的落差輸給共和黨對手，這次她希望借史上首位AI助選員之力，打贏選戰。這個名為艾詩莉（Ashley）的AI助選員，是用20多個類似ChatGPT的生成式AI模型寫成的，可同一時間化身萬千分身，致電千百人，並分析選民個資、關注議題，提供一對一的精準客製化說帖。
不僅如此，她還精通20多種語言，永遠準時上班，對候選人的所有政見和言行倒背如流，被選民掛電話時也不會覺得受傷。沒有人類做得到。
丹尼爾斯推出了AI助選員艾詩莉——這是她宣傳政見、分析選民的最佳分身。圖片來源：丹尼爾斯臉書
開發艾詩莉的公司Civox執行長穆茲坎茨基（Ilya Mouzykantskii）告訴《路透社》：「我們打算到年底（選舉）前每天撥打幾萬通電話，很快就能達到六位數。這將在2024年大選到來，而且是大舉發生⋯⋯未來就在眼前。」
這完全就是ChatGPT之父奧特曼（Sam Altman）的惡夢成真。去年五月，他在美國國會聽證會上就警告AI可能會透過「一對一的假消息互動」影響大選，「假如這個科技出錯，將會大錯特錯。」
如果說，2016年俄羅斯對美國總統大選發動假消息攻擊，讓美國人響起第一聲警鐘，「跟（現在）國內外可能徹底毀掉美國大選的AI工具相比，當年俄羅斯的干預簡直是小兒科！」維吉尼亞州民主黨參議員華納（Mark Warner）告訴Axios。（延伸閱讀｜「我是在做好事？還是一件很壞的事？」ChatGPT之父奧特曼的告白）
2024年五月，奧特曼指出，AI恐藉假消息影響選舉。圖片來源：截自美國參議院網站
在美國之外，AI已在多國大選翻天覆地。
去年九月，選前的一個深偽語音疑似顛覆了斯洛伐克總理大選，保送親俄派上台。該「錄音」用AI偽造了進步黨黨魁的聲音，侃侃而談計畫如何買票和操縱選舉。即使隨後被證實是深偽，謠言已在臉書和X等社交平台上瘋傳，許多人信以為真，在「爆料文」下憤怒留言。
去年11月，有「阿根廷川普」之稱的極右翼素人候選人米雷伊（Javier Milei）以300萬票之差，輕鬆贏得總統大位。他的競選廣告也利用了生成式AI繪圖，把對手描繪成共產黨。
根據國際人權組織「自由之家」（Freedom House）的最新報告統計，過去一年，生成式AI至少被用在16個國家，散播懷疑論、抹黑對手或操弄輿論。
生成式AI帶來了假消息的新時代，門檻降低，說服力升級。從AI大神、情報單位到青少年都能創造出以假亂真的內容，「它讓生成及散播極為逼真和看似逼真的深偽，變得非常、非常容易。」哈佛大學法學院伯克曼網際網路與社會研究中心（Berkman Klein Center for Internet & Society）AI研究員及AI 安全非營利組織Humane共同創辦人喬杜里（Rumman Chowdhury）告訴美國《外交政策》雜誌（Foreign Policy）。
許多人擔心它被濫用。世界經濟論壇剛發布《2024年全球風險報告》，AI生成的虛假訊息超越極端氣候、戰爭、經濟衰退，成為短期內全球頭號風險。
自由之家統計，至少有16個國家遭到生成式AI的假消息干擾。圖片來源：Shutterstock
說謊者紅利：以假訊息摧毀社會信任，從中得利
然而，這個頭號風險目前卻無法可管。
在美國，50州裡只有五個州立法禁止深偽，或規定競選文宣必須進行揭露。丹尼爾斯所在的賓州就不管。
美國國會正在草擬法案，要求競選廣告必須揭露AI生成的影音內容。聯邦選舉委員會則在考慮修改規定，禁止競選廣告中使用「刻意欺騙性」的AI，但尚無下文。
總統拜登則是在去年底簽了行政命令，建議——而非規定——企業在AI生成圖像、影音上標註數位浮水印（Digital Watermarking），以便溯源打假。目前約有15家企業承諾當「好人」，包括臉書母公司Meta和微軟。
至於國際社會，英國在去年底開了一場AI安全高峰會，聯合國也成立了新的AI諮詢委員會，歐盟則通過了號稱是「全球第一部AI法案」的歐盟AI法案，但最快要2025年才會上路，要求開發商揭露基礎AI模型，並對其進行風險分級和監管。但奧特曼大力反對，揚言要讓OpenAI退出歐盟市場。
被叮的滿頭包的社交平台，也試圖亡羊補牢。除了事實查核（然而包括臉書在內的許多平台過去一年都大規模裁員），YouTube、TikTok、臉書和Instagram現在都要求AI生成的選舉廣告必須標註。
然而，揭露有用嗎？瑞士蘇黎世大學數位民主實驗室研究員阿勒泰（Sacha Altay）告訴《時代》雜誌，揭露是好事，「唯一的問題是，那些打算濫用AI的壞人可能不會照做，我不確定他們要如何執行。」
其實，不只是執行問題，研究顯示標註AI生成內容、假消息警告的存在，都會宣揚「說謊者紅利」（Liar’s dividend）；因為真假難辨，導致大眾草木皆兵，覺得什麼都可能是假的，誰都不能相信，包括政府、公正媒體等。而說謊者就從這些懷疑中獲利。
史丹佛大學人本AI研究中心政策主任拉沃爾德（Russell Wald）向美國ABC新聞直播（ABC News Live）直言：「我認為我們對數位內容真實性的信心已接近末日。」
它最大的破壞，不是一場選舉，而是事實和證據的價值、是社會信任、媒體信任、以及民主根基。
「我認為，最終這將取決於政客如何利用資訊生態系統來獲得權力，或吸引追隨者以獲得選票，即使他們撒謊並傳播假消息，」阿勒泰說，「沒有任何快速解方。」（延伸閱讀｜正義或邪惡？傳陣亡孩子遺照給俄國母親 臉部辨識AI助攻烏克蘭惹議）
用AI對抗AI，「巴基斯坦阿扁」分身上造勢大會
政治利益太大，難以防堵，最後會不會變成劣幣驅逐良幣？
但也有人認為AI不全是負面的。許多社交平台認為，AI生成假消息的速度太快、太真，只能用AI對抗AI，交給機器自動偵測、過濾、預警假消息。
還有，巴基斯坦阿扁的例子。巴基斯坦前總理伊姆蘭・汗（Imran Khan）去年被軍方以洩漏機密文件為由逮捕下獄。即使肉身身陷囹圄，他寫下一則講稿交給律師，再用深偽技術，讓他「現身」線上即時造勢大會。AI替身變成一種政治反抗，追求言論自由的武器。
巴基斯坦前總理伊姆蘭・汗入獄後，仍透過AI技術，順利出席線上即時大會。圖片來源：Shutterstock
是好是壞，或許2024年會找到答案。
「真正的危險不是我們已經知道的⋯⋯而是所有的新東西，那些已知的未知數、未知的未知數，」奧特曼說，「這麼多的未知，是因為我們尚未見識到生成式影片或其他形式的能耐，而這些都將在選舉年急速爆發。」（延伸閱讀｜獨裁政府對單一個資沒興趣？對AI下令，你就可能被撈到！）
