十四屆全國人大三次會議開幕前
全國人大代表雷軍
提交了五份建議
其中包括一份：
關于加強“AI換臉擬聲”
違法侵權重災區(qū)治理的建議
全國人大代表雷軍在建議中指出：
人工智能(AI)深度合成技術的快速發(fā)展，推動了“AI換臉擬聲”在影視、廣告、社交等領域廣泛興起，成為社會喜聞樂見、傳播力強、易成熱點的技術應用。但同時也看到，“AI換臉擬聲”不當濫用造成了違法侵權行為的重災區(qū)，易引發(fā)侵犯肖像權、侵犯公民個人信息以及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模形象和聲譽損害，帶來社會治理等風險。AI深度合成技術所需素材獲取便利、技術使用門檻低、侵權主體及其手段隱蔽性強等特點，給治理帶來較大挑戰(zhàn)。
在看到雷軍的提議后
小編想到之前發(fā)生的
關于女性AI換臉的案例
下面，帶大家一起回顧一下
以案說法
“AI換臉”偽造女明星涉黃視頻
2022年8月，杭州市蕭山警方在網(wǎng)上巡查中發(fā)現(xiàn)，轄區(qū)內有人利用AI技術制作淫穢視頻并在網(wǎng)上進行大量傳播。警方隨即依法對此立案偵查，并迅速抓獲了犯罪嫌疑人虞某。
經(jīng)檢察機關深入調查，虞某自2020年起便開始接觸“AI換臉”軟件，并嘗試通過推廣這項技術及相關軟件來獲利。然而，由于關注者寥寥，虞某并未如愿以償。一次偶然的機會，虞某在社交群組中看到有人發(fā)布淫穢信息吸引關注，這讓他動起了利用“AI換臉”技術制作淫穢視頻牟利的歪腦筋。
虞某利用“AI換臉”技術，將他人的面部特征替換到淫穢視頻中，并通過互聯(lián)網(wǎng)群組進行傳播。為了吸引更多的關注和流量，他創(chuàng)建了“瀏覽群”和“私人定制群”。在“瀏覽群”中，虞某大量傳播淫穢視頻，包括經(jīng)過他換臉的視頻，以此吸引觀眾。而當有人提出“定制換臉”的需求時，虞某會將這些人引入“私人定制群”，并根據(jù)視頻的長度、清晰度等條件收取定制費用。
虞某的“定制”換臉對象廣泛，既包括知名公眾人物，也包括許多不特定的普通人。他通過提供定制化換臉服務，以及銷售“AI換臉”軟件和傳授使用教程，在不到半年的時間里便獲利數(shù)萬元。此外，虞某還非法收集了大量他人的人臉素材，用于制作淫穢視頻。
杭州市蕭山區(qū)人民檢察院在依法追究虞某刑事責任的同時，還提起了民事公益訴訟。2023年7月，杭州互聯(lián)網(wǎng)法院對此案進行了一審公開審理。法院經(jīng)審理認為，虞某利用“AI換臉”技術侵犯公民個人信息的違法事實確鑿，遂支持檢察機關作為公益訴訟起訴人的全部訴訟請求。法院判令虞某刪除非法獲取的個人信息，公開賠禮道歉、消除影響，并賠償損失共6萬元。這些款項將專門用于個人信息保護、人臉深度合成技術不當應用的治理等公益事項。
此案不僅創(chuàng)下我國首例AI換臉公益訴訟判決，更以“技術中立但越界必追責”的司法態(tài)度為行業(yè)敲響警鐘。
虞某案并非孤例。中國互聯(lián)網(wǎng)信息中心數(shù)據(jù)顯示，2024年涉及AI換臉的侵權投訴中，女性受害者占比高達83%。AI換臉技術本應是影視工業(yè)的創(chuàng)新工具，但在缺乏有效監(jiān)管的情況下，被不法分子濫用，導致大量侵權事件頻發(fā)，尤其是針對女性的肖像侵權和色情內容傳播。據(jù)相關報道，超120位藝人遭遇AI換臉侵權，其中女性藝人視頻被用于色情內容的占比高達67%。
此外，AI換臉技術的低成本和易操作性也使得這一現(xiàn)象更加普遍。一條10秒的換臉視頻制作費用已經(jīng)從5000元降至30元，普通人也能輕松完成換臉操作。
目前，我國已有多部法律法規(guī)對涉及AI換臉等深度合成技術的違法行為進行了明確規(guī)定。例如，《網(wǎng)絡安全法》規(guī)定，網(wǎng)絡運營者應當加強對其用戶發(fā)布的信息的管理，發(fā)現(xiàn)法律、行政法規(guī)禁止發(fā)布或者傳輸?shù)男畔⒌模瑧斄⒓赐Ｖ箓鬏斣撔畔ⅲ扇∠忍幹么胧乐剐畔U散，保存有關記錄，并向有關主管部門報告。《刑法》也明確規(guī)定，以營利為目的，制作、復制、出版、販賣、傳播淫穢物品的，構成傳播淫穢物品牟利罪，將受到法律的嚴厲制裁。
此外，針對AI換臉技術可能涉及的侵犯肖像權、隱私權等行為，《民法典》也有相關規(guī)定。民法典第一千零一十九條規(guī)定，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。未經(jīng)肖像權人同意，不得制作、使用、公開肖像權人的肖像，但是法律另有規(guī)定的除外。同時，民法典還保護了自然人的隱私權，任何組織或者個人不得以刺探、侵擾、泄露、公開等方式侵害他人的隱私權。
在此，我們呼吁相關部門應加強對“AI換臉擬聲”技術的監(jiān)管和治理，防止其被不法分子利用從事違法犯罪活動。對于侵犯女性權益的行為，我們必須零容忍，堅決打擊，以維護社會的公平正義和女性的尊嚴與權益。
蘇公網(wǎng)安備32010402001672