人工智能在選舉中的使用引發了對護欄的爭奪
競選規則的空白使政客們能夠傳播由日益強大的人工智能技術生成的圖像和信息。
經過許婷婷和史蒂文·李·邁爾斯 美國東部時間2023 年 6 月 25 日上午 5:00
在多倫多，本週市長選舉中的一名候選人發誓要清理無家可歸者營地，他發布了一系列由人工智能闡釋的競選承諾，其中包括人們在市中心街道上露營的假反烏托邦圖像，以及在公園裡搭起帳篷的捏造圖像。
。
在新西蘭，一個政黨在 Instagram 上發布了一幅逼真的渲染圖，描繪了假劫匪在一家珠寶店橫衝直撞的情景。 在芝加哥，四月份市長選舉中的亞軍抱怨說，一個偽裝成新聞媒體的推特賬戶使用人工智能克隆了他的聲音，這表明他縱容
警察的暴行。
幾個月前，人工智能為政治競選活動撰寫的緩慢的籌款電子郵件和宣傳圖片開始逐漸變成由該技術創建的源源不斷的競選材料，改寫了世界各地民主選舉的政治劇本。
政治顧問、選舉研究人員和立法者越來越多地表示，建立新的護欄，例如限制合成廣告的立法，應該成為當務之急。
現有的防禦措施，例如聲稱可以檢測人工智能內容的社交媒體規則和服務，未能起到多大作用來減緩這一趨勢。
隨著 2024 年美國總統競選開始升溫，一些競選活動已經開始測試該技術。拜登總統宣布競選連任後，共和黨全國委員會發布了一段人工生成的世界末日場景圖像的視頻，而佛羅里達州州長羅恩·德桑蒂斯則發布了前總統唐納德· J·特朗普與前衛生 官員安東尼·福奇博士的假照片。官方的。民主黨在春季嘗試了由人工智能起草的籌款信息，發現它們在鼓勵參與和捐贈方面往往比完全由人類編寫的文案更有效。
一些政客將人工智能視為幫助降低競選成本的一種方式，通過使用人工智能來創建對辯論問題或攻擊廣告的即時響應，或者分析可能需要昂貴專家的數據。
與此同時，該技術有可能向廣大受眾傳播虛假信息。
專家表示，一段不討人喜歡的虛假視頻、一封充滿計算機砲制的虛假敘
述的電子郵件或捏造的城市衰敗圖像，可能會向選民展示他們希望看到的東西，從而強化偏見並擴大黨派分歧。
該技術已經比手動操作強大得多——雖然並不完美，但改進迅速且易於學習。
OpenAI 的首席執行官薩姆·奧爾特曼 (Sam
Altman) 在去年通過其廣受歡迎的 ChatGPT 聊天機器人推動了人工智能熱潮，今年 5 月，他對參議院小組委員會表示，他對選舉季感到緊張。 他表示，該技術“操縱、說服、提供一對一互動虛假信息”的能力是“一個值得關注的重要領域”。
紐約民主黨眾議員 Yvette D. Clarke 在上個月的一份聲明中表示，2024 年的選舉週期“將成為第一次人工智能生成內容盛行的選舉”。她和其他國會民主黨人，包括明尼蘇達州參議員艾米·克洛布查爾，提出了立法，要求使用人工生成材料的政治廣告附帶免責聲明。
華盛頓州的一項類似法案最近簽署成為法律。
美國政治顧問協會最近譴責在政治競選中使用深度造假內容違反了其道德準則。
該組織即將上任的主席拉里·黃 (Larry Huynh) 表示：“人們會忍不住挑戰極限，看看能把事情做到什麼程度。” “與任何工具 一樣，都可能存在不良用途和不良行為，利用它們來欺騙選民、誤導選民、讓人相信一些不存在的東西。”
這項技術最近對政治的入侵令多倫多感到意外，這座城市支持人工智能研究和初創企業蓬勃發展的生態系統。市長選舉將於週一舉行。
競選中的保守派候選人、前新聞專欄作家安東尼·福雷(Anthony Furey)最近在一份長達數十頁的文件中闡述了自己的政綱，
其中充滿了綜合生成的內容，以幫助他確立嚴厲打擊犯罪的立場。
仔細一看，可以清楚地發現許多圖像都不是真實的：一個實驗室場景的科學家看起來像外星斑點。另一張渲染圖中，一名女子的羊毛衫上別著一枚別針，上面的字跡難以辨認。類似的標記也出現在建築工地的警示膠帶圖像中。福雷的競選活動還使用了一張合成肖像，上面是一位坐著的女性，兩隻手臂交叉，第三隻手臂碰著下巴。
其他候選人在本月的一場辯論中利用這張照片來搞笑：“我們實際上使用的是真實照片，”喬什·馬特洛說，他展示了一張家人的照片，並補充說“我們照片中沒有人有三隻手臂。” 儘管如此，草率的效果圖還是被用來放大福雷先生的論點。他獲得了足夠的動力，成為這場有
100 多名候選人的選舉中最知名的名字之一。
在同一場辯論中，他承認在他的競選活動中使用了這項技術，並補充說“當我們繼續更多地了解人工智能時，我們將會在這裡開懷大笑” 政治專家擔心，人工智能如果被濫用，可能會對民主進程產生腐蝕作用。錯誤信息是一種持續存在的風險；Furey 的一位競 爭對手在一場辯論中表示，雖然她的員工使用 ChatGPT，但他們總是對其輸出進行事實核查。 “如果有人能夠製造噪音、製造不確定性或編造虛假敘述，這可能是影響選民並贏得選舉的有效方式，”
布魯金斯學會高級研
究員達雷爾·M·韋斯特(Darrell M. West)上個月在一份報告中寫道。“由於 2024 年總統選舉可能會涉及幾個州的數万名選民，因此任何能夠推動人們朝某個方向或另一個方向發展的因素最終都可能具有決定性作用。”
Reality Defender（一家提供人工智能檢測服務的公司）的首席執行官本·科爾曼 (Ben Colman) 表示，越來越複雜的人工智能內容越來越頻繁地出現在社交網絡上，而社交網絡基本上不願意或無法對其進行監管。他說，在問題得到解決之前，就會造成“不可逆轉的損害”。 “事後向數百萬用戶解釋他們已經看到和分享的內容是假的，這太少了，也太晚了，”科爾曼先生說。 本月的幾天裡，Twitch 直播中的拜登先生和特朗普先生的合成版本之間不間斷地進行著不安全的辯論。虛假信息專家表示，
兩者都被明確認定為模擬的“人工智能實體”，但如果有組織的政治運動創造了此類內容，並且在沒有任何披露的情況下廣泛傳播，那麼很容易降低真實材料的價值。
政客們可以擺脫責任，聲稱妥協行為的真實鏡頭不是真實的，這種現像被稱為說謊者的紅利。普通公民可以自己製造假貨，
而其他人則可以使自己更深入地陷入兩極分化的信息泡沫中，只相信他們選擇相信的消息來源。 “如果人們不能相信自己的眼睛和耳朵，他們可能只會說，‘誰知道呢？’”
喬治城大學安全與新興技術中心研究員喬什·A·戈爾茨坦在一封電子郵件中寫道。“這可能會促進從鼓勵良好習慣（例如橫向閱讀和尋找可靠來源）的健康懷疑主義轉變為不可能知道真相的不健康懷疑主義。
” 蒂芙尼·許 (Tiffany Hsu) 是一名科技記者，報導錯誤信息和虛假信息。 @蒂夫赫蘇 史蒂文·李·邁爾斯為《泰晤士報》報導錯誤信息。他曾在華盛頓、莫斯科、巴格達和北京工作，撰寫的文章榮獲 2021 年普利策公共服務獎。他還是 《新沙皇：弗拉基米爾·普京的崛起與統治》一書的作者。 @史蒂文·利邁爾斯 • Facebook
