您當前的位置:首頁未來正文

“有圖有真相”已經成為歷史?如何讓AI換臉換裝不再是雙刃劍?

2023-04-05 13:29:00 科技日報

科技日報實習記者 李詔宇

“巧笑倩兮,美目盼兮。”“羅衣何飄搖,輕裾隨風還。”自古以來,面部和衣物都是一個人身份的重要標志物之一。人們往往可以通過面部和衣物的特征來判斷一個人的身份。


(資料圖)

近年來,“有圖有真相”這個說法更是曾讓無數人信服。在很長的一段時間里,圖片和視頻都因為難以偽造或偽造成本過高,而被人們認為比文字等形式更為可靠。

然而近日,某地一女性網友在網上曬出自己的照片后,照片卻被別有用心的網友采用“AI脫衣”技術生成了不雅的“一鍵脫衣”圖。該圖片隨后在網上廣泛傳播,造成了極其不良的社會影響。

與上述案例中“AI脫衣”相似的,還有近年來走紅網絡的“AI換臉”。一些“AI換臉”App使用明星的圖片制作換臉照片甚至是視頻進行推廣,引發了系列法律糾紛。所謂“有圖有真相”,在惡意AI換臉換裝面前,可能正在成為歷史。

針對防范惡意AI換臉換裝的相關問題,記者于4月4日采訪了首都經濟貿易大學法學院副院長、副教授陶盈。

防范治理惡意AI換臉換裝刻不容緩

據了解,AI換臉指利用人工智能技術,將一張照片或視頻中的人臉替換成另一個人的人臉;AI換裝則是將一張照片或視頻中的人物衣著進行替換,使其穿上不同的服裝裝扮。

AI換臉換裝的實現,基于人工智能深度學習技術中的計算機視覺和人工智能技術。其中,計算機視覺技術主要用于通過分析面部特征來實現人臉或衣物的識別與替換;人工智能技術則被用于提高人臉或衣物的匹配度與真實感,使得換臉換裝的結果更加自然流暢。

“近年來,互聯網上出現了不少具有AI換臉換裝功能的App。”陶盈介紹,“利用這些App,用戶僅需一張照片就能實現換臉換裝,操作起來難度并不高。”

在合理使用的情況下,AI換臉換裝在影視剪輯、廣告設計等方面可以發揮重要作用,大大減少相關圖片或視頻內容的生產成本,并在一定程度上提高生產效率與質量。

但正如“一鍵脫衣”圖表明的,AI換臉換裝也很容易被濫用,也就是惡意AI換臉換裝,從而產生嚴重的社會危害。“偽造、丑化、污損他人的個人形象或是生成不雅圖片,不僅可能侵害自然人的肖像權、隱私權、名譽權等人格權益,還有可能侵犯原照片、視頻作者的著作權等財產權益,甚至有可能構成敲詐勒索、詐騙等相關刑事犯罪。”陶盈說,“此外,惡意AI換臉換裝可以讓犯罪分子將自己的面孔或身份信息偽裝成其他人,從而更加輕易地進行各種犯罪活動。”

“AI換臉換裝是一把雙刃劍,對其濫用的防范治理刻不容緩。”陶盈表示。

多手段助力打擊惡意AI換臉換裝

“我們應該加強技術研發與監管,強化發布平臺的審查義務,防范和治理惡意AI換臉換裝。”?陶盈表示。

“首先,我們應該嚴厲打擊通過惡意AI換臉換裝侵害他人合法權益的違法行為,強化技術開發者與應用者的法律觀念和社會責任。”陶盈表示,在進行AI換臉換裝之前,首先應該征得被換臉換裝者的同意,確保個人信息和數據安全。

“其次,發布圖片或視頻的平臺應該承擔起實質審查的義務,避免脫衣等具有明顯惡意的內容發布。”陶盈說,“平臺還應當要求內容創作者實名認證,監督內容創作者標明‘此視頻為AI合成’等標識,以免誤導公眾。”記者了解到,目前國內部分網絡視頻平臺已經實現對于AI合成的標識功能。

“再次,監管部門應當嚴厲打擊相關黑色產業鏈,對違法行為進行精準打擊,鏟除惡意換臉換裝的滋生土壤。”陶盈表示,“此外,通過加強人臉識別和深度學習算法的研究,提高人臉檢測和分割的準確率,也有助于防范治理惡意AI換臉換裝。”

“我們應該通過加強法治教育宣傳,增強人們的個人信息安全意識。”陶盈說,“在生活中,每個人都應該加強個人信息和隱私保護的意識,避免泄露敏感隱私照片,讓他人有機可乘。”

據悉,目前法院已經有多起涉及惡意AI換臉換裝侵害他人肖像權的判決,近期的2023年“清朗”系列專項行動也對相關濫用科技的互聯網不法行為進行了系列打擊。“互聯網并非法外之地,我們應該加大對于惡意AI換臉換裝的防范治理力度,營造風清氣正的網絡環境。”陶盈表示。

上一篇:
下一篇:

關鍵詞:

“如果發現本網站發布的資訊影響到您的版權,可以聯系本站!同時歡迎來本站投稿!

虛擬

未來