Social Media User

Meta將開始在Facebook,Instagram和Threads上對 人工智慧圖像進行標記 ,旨在保持網路透明度。

這個科技巨頭目前已經使用可見水印對其Imagine AI引擎製作的內容進行標記。 從今往後,它還將對來自第三方來源如OpenAI,谷歌和Mid-Journey等的圖片進行同樣的處理,僅以此幾個為例。 它未明確這些標籤將是什麼樣子,然而從公告貼中看,它可能只是圖像內容旁書寫“AI信息”幾個字。 Meta表示,這種設計還未定型,暗示它可能在正式推出時進行改變。

除了可見標籤外,公司也表示正在研發識別第三方生成器影像中「不可見標記」的工具。 Imagine AI同樣採取這種方法,透過向影像元資料嵌入不可移除的水印,其目的是加入唯一的標記資訊。 Meta表示其他平台也計劃採取同樣的方式,它希望建立一套系統來檢測這些嵌入式元資料標記。

音訊和視訊標記

到目前為止,一切都圍繞圖像進行品牌化,但是音頻和視頻呢?谷歌的Lumiere能夠創建極其逼真的視頻剪輯,OpenAI也在為ChatGPT實現視頻生成功能。 是否有辦法像圖像一樣檢測複雜形式的人工智慧內容?好吧,部分是的。

Meta承認,目前它沒有辦法像影像一樣有效率地偵測人工智慧產生的音訊和視訊。 這項技術現在還沒有成熟。 不過,這個行業正在「朝這個能力發展」。 在此期間,公司將依靠用戶的自覺性。 它將要求如果用戶想上傳人工智慧產生或編輯的視訊片段或音訊檔案,必須進行披露。 否則將面臨「懲罰」。 此外,如果一段媒體看起來太逼真,有可能誤導公眾,Meta將附加「更明顯的標籤」,提供重要資訊。

未來更新

公司的AI研究機構FAIR正研發一種新的水印技術叫做穩定簽名。 看來,可能透過移除人工智慧產生內容元資料中的不可見標記進行竄改。 穩定簽名旨在阻止這一行為,通過使水印成為“圖像生成過程”的組成部分。 同時,Meta已經開始訓練幾個大語言模型來了解其社區標準,以便這些AI可以判斷某些內容是否違反政策。

預計這些社群媒體標籤將在未來幾個月內推出。 發佈時點選擇不設定的原因毫無二致:2024年是許多國家,尤其是美國的重要選舉年。 Meta正試圖最大限度地緩解誤導訊息在其平台上的傳播。

作者: GOTCN編輯部