央廣網(wǎng)北京12月14日消息(記者 費權(quán))最近,“張文宏深夜帶貨”引發(fā)網(wǎng)友關(guān)注。據(jù)報道,在“般畫234”的視頻賬號中,“張文宏”在反復介紹一款蛋白棒。
針對此事,張文宏醫(yī)生回應(yīng):“這些假的AI合成信息就像蝗災(zāi)一樣,一次又一次發(fā)生,像漫天飛過來的蝗蟲一樣害人。事實上,從平臺投訴結(jié)果來看,我覺得最終也難以解決問題!背讼蚱脚_方投訴,張文宏稱自己也曾考慮過報警,但對方看不見摸不到,就像幽靈一般難以描述,只能寄希望于相關(guān)部門加強監(jiān)管。對此,上海市消保委副秘書長唐健盛認為,這種做法非常惡劣,已經(jīng)構(gòu)成了對消費者的欺詐,相關(guān)監(jiān)管部門應(yīng)對其予以嚴厲處罰。
從之前的“假靳東”到如今的“假張文宏”,利用AI技術(shù)炮制名人音視頻作品以假亂真,甚至偽裝成熟人、親人實施精準詐騙的案例屢見不鮮。
AI應(yīng)用使用不當或被追究刑事責任
對此,北京市京都律師事務(wù)所合伙人徐偉律師認為,未經(jīng)授權(quán)使用AI換臉技術(shù)進行經(jīng)營行為,已侵犯到當事人的肖像權(quán)。在這種情況之下,如果經(jīng)營者有夸大產(chǎn)品功效、虛高產(chǎn)品價格的行為,消費者基于對當事人的信任而購買該產(chǎn)品,該行為還有可能構(gòu)成詐騙罪。而且,最高人民法院、最高人民檢察院、公安部聯(lián)合發(fā)布的《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導意見》中明確,對利用“深度合成”等生成式人工智能技術(shù)發(fā)布違法信息的,依法從重處罰。
徐偉介紹,肖像權(quán)是指自然人對自己的肖像享有再現(xiàn)、使用或許可他人使用的權(quán)利。保護肖像權(quán)的關(guān)鍵在于保護可識別性,如果公眾可以通過表演形象辨認出演員個人的體貌特征,則意味著該形象能夠與演員本人建立相互對應(yīng)的關(guān)系,此時可以視為演員對該表演形象享有肖像權(quán)。在可建立識別性的情況下,如果運用AI換臉技術(shù)對表演者的面部實施丑化、更改處理,以達到惡搞或者低俗的效果,這種惡意丑化表演形象的行為既構(gòu)成了對表演形象的歪曲,也構(gòu)成了對肖像權(quán)的侵犯。
“AI換臉”技術(shù)的應(yīng)用中,從視頻最終的內(nèi)容角度考量,如果有人利用換臉軟件對他人進行惡意丑化、玷污式惡搞,或者將他人的臉換到不雅視頻中,還會侵犯他人的名譽權(quán)。
對于消費者來說,經(jīng)營者可能構(gòu)成欺詐行為,應(yīng)對消費者承擔賠償責任,甚至還有可能涉嫌詐騙罪,承擔刑事責任。
根據(jù)《消費者權(quán)益保護法》,消費者因虛假視頻上當受騙時,可以要求商家退一賠三,金額不足500元的按500元賠償。消費者可以向消費者保護協(xié)會投訴商家,也可以對商家提起民事訴訟。
如果經(jīng)營者有夸大產(chǎn)品功能、虛高產(chǎn)品價格的行為,并使用AI換臉技術(shù)讓消費者誤以為該產(chǎn)品得到了名人的推薦,從而誘導消費者購買,這種行為就可能涉嫌詐騙罪。因為在這種情況下,消費者是基于對名人的信任而做出購買決定的,而實際上這種信任是建立在虛假信息的基礎(chǔ)上的。
技術(shù)提供者、視頻平臺也要擔責
此類事件中,徐偉認為除了經(jīng)營者,AI技術(shù)提供者和視頻平臺,也需要承擔相應(yīng)的責任。
徐偉介紹,根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,要求深度合成服務(wù)提供者提供深度合成服務(wù),可能導致公眾混淆或者誤認的,必須在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識,向公眾提示深度合成情況。目前一些較大的視頻平臺在許多 AI 生成的真人換臉視頻下方都含有提示信息,在用戶刷到 AI 生成內(nèi)容的視頻時,會標注“AI生成內(nèi)容”或“疑似包含 AI 創(chuàng)作信息,請注意甄別真實度”等提醒。如果被投訴的虛假視頻發(fā)現(xiàn)沒有該類提示性標注,則平臺難辭其咎。
視頻平臺若是對平臺使用者的這種侵權(quán)行為不予恰當處理,則可能承擔連帶責任。平臺具有一定的審查、監(jiān)督職責,在被告知或發(fā)現(xiàn)此類違法行為后,應(yīng)當積極響應(yīng)權(quán)利人的請求,及時撤銷、下架相關(guān)侵權(quán)圖片、視頻,中止相關(guān)直播等,避免惡劣影響的進一步擴大。相反,平臺若是有意放縱此類行為的發(fā)生、繼續(xù),對相關(guān)投訴、舉報等視若無睹則應(yīng)當與侵權(quán)者承擔連帶責任 。
消費者如何防范
我們常說“眼見為實”,但在AI時代,肉眼所看見的也不一定是真相。隨著人工智能技術(shù)的飛速發(fā)展,從簡單的圖像編輯,到復雜的影片制作,AI生成視頻的能力越來越強,越來越逼真。然而,這種技術(shù)進步也帶來了前所未有的侵權(quán)風險,一些不法分子甚至利用“AI換臉”技術(shù)實施詐騙。
徐偉提醒,對于個人而言,除了在形形色色的“名人臉”中保持清醒,避免陷入虛假宣傳,更重要的是面對花樣翻新的AI詐騙,必須保持防范意識。
保護信息,提高警惕。不要輕易透露自己的身份證、銀行卡、驗證碼等信息,不要輕易提供人臉、指紋等個人生物信息給他人,不過度公開或分享動圖、視頻等;
多重驗證,確認身份。如果有人自稱“熟人”“領(lǐng)導”等通過社交軟件、短信以各種理由誘導匯款,或涉及網(wǎng)絡(luò)轉(zhuǎn)賬交易行為時,務(wù)必通過電話、見面等多途徑核驗對方身份,不要未經(jīng)核實隨意轉(zhuǎn)賬匯款;如不慎被騙或遇可疑情形,請注意保護證據(jù),并立即撥打96110報警。
相互提示,共同預防。要多多提醒、告誠身邊的親人、朋友提高安全意識和應(yīng)對高科技詐騙的能力,共同預防受騙。提醒老年人在接到電話短信時,要放下電話,再次撥打家人電話確認,不要貿(mào)然轉(zhuǎn)賬。

關(guān)注精彩內(nèi)容