歐盟委員會今天宣布，根據計劃更新現行立法以跟上技術發展的步伐，歐盟可能會將AI生成的影像和其他形式的深度偽造涉及 兒童性侵犯 （CSA）的行為定為犯罪。
該委員會還提議設立一項新的犯罪行為，即直播兒童性侵犯。 該計劃還將使「戀童癖手冊」的持有和交流行為定為犯罪行為，這是歐盟稱旨在加強預防兒童性侵犯（CSA）的一系列措施的一部分，包括增加對網路風險的意識 ，並使受害者更容易報告犯罪並獲得支持（包括授予他們獲得經濟補償的權利）。
該提案旨在更新歐盟目前在這一領域的現行規定，這些規定可以追溯到2011年，還包括關於強制通報違法行為的變化。
早在2022年5月，委員會就與CSA相關的一項單獨草案立法提出了一個框架，旨在使數位服務使用自動化技術來檢測和報告其平台上流傳的現有或新的兒童性侵犯材料（ CSAM），並辨識並通報針對兒童的勾引活動。
這項掃描CSAM的計劃已經引起了極大爭議，並且它繼續在議會和理事會中分裂各方，同時引發了對委員會與兒童安全技術遊說團體的聯繫以及對歐盟執行機構的其他尷尬問題的懷疑 ，因為這是對微定向廣告進行合法質疑的嘗試。
歐盟委員會決定優先考慮針對數位訊息平台的目標，以解決CSA問題，這引起了很多批評，認為歐盟的立法者在對抗一個複雜的社會問題時關注錯誤的領域，這可能給他們帶來了一些壓力 ，以提出後續建議。 （當然，委員會並沒有這樣說，它將今天的方案描述為其早期CSAM掃描提案的「補充」部分。）
也就是說，即使在這個備受爭議的私人訊息掃描計劃提出不到兩年的時間裡，人們對於深偽造和AI生成圖像的風險已經大幅增加，包括擔心這些技術被濫用以製作CSAM並擔憂這 種合成內容可能使執法機關更難以辨識真實受害者。 因此，生成式AI的病毒式爆發給立法者提供了明確的動力來重新審視規定。
「兒童在網路上的存在增加和技術發展創造了侵犯的新可能性，」委員會在今天的新聞稿中建議。 它還表示，該提案旨在「減少網路兒童性侵犯和剝削的普遍免責行為」。
委員會在提出該提案之前進行的一項影響評估確定了兒童在網路上的存在增加和「最新技術發展」為CSA提供了新的機會。 它還表示擔心成員國法律框架的差異阻礙了打擊侵犯行為的行動，並希望改善當前「有限」的預防CSA和幫助受害者的努力。
歐盟內務事務專員Ylva Johansson在一份支持性聲明中補充說：「快速發展的技術為網路兒童性侵犯創造了新的可能性，並對執法機關調查這種極其嚴重且普遍的犯罪行為提出了挑戰 。強有力的刑法是必不可少的，今天我們正在邁出確保拯救兒童並使肇事者受到製裁的重要一步。我們正在履行2020年7月提出的歐盟更有效打擊兒童性侵犯戰略中的承諾。 」
關於兒童網路安全風險，委員會的提案旨在鼓勵成員國加大對「提高意識」的投資。
與CSAM掃描計畫一樣，最終的提案形式將由歐盟的共同立法機構－議會和理事會決定。 在議會選舉和今年稍後重新啟動委員會之前的談判時間有限，儘管如此，今天的打擊CSA提案可能比訊息掃描計劃更具爭議性。 因此，在另一個計劃停滯不前的情況下，它有可能被接受。
如果/當關於如何修訂目前打擊CSA的指令達成一致意見，根據委員會的規定，它將在其刊登於歐盟官方期刊後的20天內生效。