來自Adobe、亞馬遜、Google、IBM、Meta、微軟、OpenAI 和 Tiktok 的執行長齊聚慕尼黑安全會議，宣佈了一項新的框架，用於響應 AI 產生的深度 假新聞 ，以 詐騙 選民的方式影響 選舉 。包括 Elon Musk 的 X 在內的其他12家公司也將簽署此協議。
Meta 母公司 Facebook 和 Instagram 全球事務總裁 Nick Clegg 在會前採訪中表示:「各科技公司、各政府和各民間組織都認識到，在應對這項技術的出現和可能的惡意使用時，任何一個單位都無法單獨解決問題。」
此協議在象徵意義上，但針對日益逼真的 AI 產生圖像、音頻和視頻「以欺騙性或修改的方式假造或改變政治候選人、選舉官員和其他民主選舉的主要利益相關者的外表、聲音或行為，或向選民提供有關合法投票時間、地點和方式的虛假信息。」
這些公司並未承諾禁止或刪除深度假新聞。相反，協議概述了它們在發現和標記平台上產生或分發有害AI內容時將採取的方法。它指出，這些公司將互相分享最佳實踐，並在有害內容開始傳播時採取「迅速和成比例的」應對措施。
承諾內容的含糊性和缺乏任何具有約束力的要求，很可能幫助吸引了各行各業的公司。但一些倡導者希望能看到更強有力的承諾。
兩黨政策中心選舉項目高級副主任 Rachel Orey 表示:「語言力度不如預期。我們應該肯定他們的努力，認識到這些公司有重大利益不希望自家工具被用於破壞自由公正選舉。但這是自願性的，我們會密切關注他們是否落實承諾。」
Clegg 表示，每家公司「理所當然地擁有自己的內容政策」。「這不是想要給大家強加一個模具。此外，行業中沒有人認為，可以通過掩蓋事實和玩躲貓貓就能應對全新的科技范式。」
幾位歐美政界領導人也參加了周五的宣布。歐盟執委會副主席 Vera Jourova 表示，雖然這種協議無法全面，但「包含了非常重要和積極的元素」。她也敦促政客不要以欺騙方式使用AI工具，並警告 AI 造假可能導致「歐盟成員國民主制度的終結」。
這項在德國慕尼黑市年度安全會議達成的協議，發生在2024年將有50多個國家舉行國家選舉之際。孟加拉國、台灣、巴基斯坦和最近的印尼已經完成選舉。
AI 造假干預選舉的嘗試已經開始，例如上月在新罕布夏州初選中，模仿美國總統拜登聲音的 AI 輔助電話試圖勸阻人們投票。
斯洛伐克11月大選前幾天，AI 產生的音頻錄音假冒候選人討論提高啤酒價格和操縱選舉的計劃。事實核查人員趕緊識別它們為虛假信息，並在社交媒體上傳播。
政治人物也嘗試運用這項技術，從使用 AI 聊天機器人與選民溝通，到在廣告中添加 AI 產生圖像。
協議呼籲平台「重視內容背景，特別是保護教育、紀錄片、藝術、戲仿、政治表達」。
它表示，這些公司將重視透明度，讓用戶了解其政策，並努力教育公眾如何避免上當受騙。
大多數公司以前表示，他們正在為自家能操縱圖像和音頻的生成 AI 工具設置保障，同時努力識別和標註AI產生內容，讓社交媒體用戶知道看到的是真實內容。但大多數建議方案尚未上線，公司面臨更大壓力採取進一步行動。
在美國，國會尚未制定 AI 在政治中的法規，公司在很大程度上自我監管。這也加劇了壓力。聯邦通訊委員會最近確認，AI產生的語音片段在錄音電話中屬違法，但這並不包括在社交媒體或競選廣告中流傳的語音深度假新聞。
許多社交媒體公司已制定政策遏制 A I產生或非 AI 產生的選舉流程誤導帖子。Meta 表示，會刪除有關「投票日期、地點、時間和方法;選民登記;或人口普查參與」的誤導信息，以及其他意圖干擾他人公民參與的虛假帖子。
前 Facebook 數據科學家、Integrity Institute聯合創始人 Jeff Allen 表示，此協議似乎是「積極的一步」，但他還希望社交媒體公司採取其他行動應對誤導信息，例如建立內容推薦系統不再把參與度置於首位。
公眾監督團體Public Citizen執行副總裁Lisa Gilbert認為，此協議「不夠」，AI 公司應「暫緩」如超現實文本到視頻生成器等技術，「直到有充分的保障措施助我們避免許多潛在問題為止。」
除了促成周五協議的公司外，其他簽署方還包括聊天機器人開發商 Anthropic和Inflection AI、語音深度克隆公司 ElevenLabs 、晶片設計商英特爾、安全公司 McAfee 和趨勢科技，以及以創建圖像生成器 Stable Diffusion 聞名的 Stability AI 。
值得注意的是，另一款流行的 AI 圖像生成器 Midjourney 卻缺席。總部位於舊金山的這家初創公司在周五未立即回應有關評論要求。
X 作為簽署方之一，在上周五協議中是一個意外之喜。穆斯克接手前 Twitter 後大幅削減內容監督團隊，並自稱為「言論自由絕對主義者」。X 的 CEO 琳達·雅卡里諾在周五的聲明中表示:「每一位公民和公司都有責任維護自由公平的選舉。」她說:「X 致力於發揮自己的作用，與同行合作打擊 AI 威脅，同時保護言論自由和提高透明度。」