英國機構警告家長「真實」AI威脅，兒童性虐待影像激增，籲家長限制分享照片

倫敦，7月4日——國家犯罪署（NCA）表示，家長已收到警告，不要在網路上發布其子女的圖像，因為這些圖像可能被用來生成人工智慧（AI）製作的性虐待素材，PA Media/dpa報導。

NCA表示，NCA與網路觀察基金會（IWF）已發布新指南，旨在保護兒童免受AI兒童虐待圖像增加的威脅，此舉是針對家長和照顧者新宣傳活動的一部分。

IWF指出，此前英國（UK）一所學校成為犯罪集團的目標，這些罪犯利用公開的學生照片，透過AI技術生成兒童的性圖像，隨後威脅若不付款就公開這些圖像。

這些組織也對使用AI工具生成兒童性虐待圖像的急劇增加發出警告，IWF分析師在2025年發現了3,440部AI生成的影片，而2024年僅有13部。

NCA表示，新宣傳活動旨在幫助家長和照顧者對其子女的圖像做出明智的決定，考慮圖像同意權，並與兒童討論AI和「深偽」性圖像的危險。

IWF執行長Kerry Smith表示：「這種威脅令人不安。」

「如果個人的圖像在網路上，他們就很容易成為罪犯的目標，任何人，尤其是兒童，都可能發現自己成為被鎖定的對象。

「我們不想說不要與你愛和信任的人分享子女的圖像，但我們希望每個人都能意識到潛在風險，並在掌握完整事實的情況下做出明智的決定。

Smith補充道：「這些不是假設性的威脅，而是真實存在的。」

「這些圖像造成的影響可能是毀滅性的。

「傷害是非常真實的。而造成長久損害的潛在風險，我認為每位家長都會盡一切所能去防止。

「我們希望把這種力量還給他們，並發起一場公眾對話，探討我們是否應該預設在網路上分享圖像。」

IWF警告，之前勒索英國一所學校的罪犯，利用學校網站上的圖像，製作了超過一百張該校學生的性圖像。

儘管IWF成功阻止了這些圖像被上傳，但人們仍然擔心未來會有更多學校成為目標。

IWF和NCA也警告，隨著技術的進步，AI生成的兒童性虐待圖像正變得越來越普遍和逼真。

AI也被用來製作更具暴力色彩的內容，在2025年確認的3,443部AI生成的兒童性虐待影片中，有65%被歸類為A類——這是英國法律下最嚴重的法律類別，涵蓋強姦和性折磨等罪行。

相比之下，IWF在2025年看到的非AI犯罪兒童虐待影片中，有43%屬於A類。

IWF在2025年還識別出8,029張逼真的AI生成兒童性虐待圖像和影片——比前一年增加了14%的犯罪AI內容。

新指南建議，仍想在網路上分享子女圖像的家長和照顧者可以建立一個「密友」群組，或調整社群媒體貼文的隱私設定，以便只有選定數量的人可以查看。

指南還包含關於與兒童和年輕人談論AI和圖像同意權的建議，以及如果他們成為目標或其圖像在網路上被製作或分享時該怎麼辦。

家長也獲鼓勵告知兒童和年輕人，18歲以下兒童的裸體或半裸體圖像可以在網路上被舉報和移除——包括使用AI製作或修改的圖像。

由國家防止殘酷對待兒童協會（NSPCC）和IWF營運的Report Remove服務，也為年輕人提供心理健康支持。

國家犯罪署的Tim Wright表示：「人工智慧工具正變得越來越強大、更容易取得且更易於使用，我們看到罪犯利用它們以新的方式鎖定兒童。

「在網路上分享的圖像，即使是日常的家庭照片，也可能在兒童或家長不知情的情況下被盜用和篡改，以製作性化內容。

「在我們和警方同事打擊罪犯的同時，預防工作仍然至關重要。

「我們鼓勵家長和照顧者今天採取幾個簡單的步驟：檢視社群媒體帳號的隱私設定；仔細考慮誰可以存取其子女的圖像；並與家人、朋友、學校和俱樂部公開談論圖像分享和同意權。

「最重要的是，如果真的出了問題，請保持冷靜，向孩子保證他們沒有錯，並向警方或CEOP[兒童剝削與線上保護中心]報告疑慮，以便盡可能迅速地採取行動。」

在英國，兒童性虐待的圖像和影片是違法的，無論它們是否使用AI製作或修改。

IWF也敦促科技公司在發布AI模型前對其進行評估和保護，使罪犯更難使用生成式AI來製作兒童虐待素材。——Bernama-PA Media/dpa