首頁 > 消費(fèi) > 社會 > 正文

通過AI合成技術(shù)假冒名人時有發(fā)生應(yīng)用AI合成技術(shù)的法律邊界在哪？

2024-12-19 11:28:04來源：檢察日報(bào)

假如遭遇AI冒名的是你……

近日

，一段張文宏直播帶貨的視頻在網(wǎng)上引起廣泛關(guān)注

，視頻中“張文宏”正在直播間出售一款蛋白棒

。隨后

，張文宏本人通過媒體公開表示

，自己“被AI”了

。

記者了解到

，AI合成視頻近來有愈演愈烈之勢，通過AI合成技術(shù)假冒名人的事例時有發(fā)生

，比如前不久的假靳東詐騙案

、假小米CEO雷軍辣評、假黃百鳴代言等

。應(yīng)用AI合成技術(shù)的法律邊界在哪

？一旦被侵權(quán)，當(dāng)事人應(yīng)當(dāng)如何保護(hù)自己

？相關(guān)監(jiān)管又該如何跟上

？記者專門采訪了有關(guān)專家和一線司法人員。

AI合成技術(shù)應(yīng)用門檻降低

“如今眼見真的不一定為實(shí)

。”一位AI合成技術(shù)從業(yè)人士告訴記者

。最初，AI合成技術(shù)被應(yīng)用在生成圖片

、音頻上

，慢慢地，AI合成技術(shù)滲透到了短視頻制作以及直播領(lǐng)域

；隨著人工智能技術(shù)的發(fā)展

，AI合成技術(shù)應(yīng)用門檻一再降低，只需要一張照片

、一段音頻

，任何人都可以造出一個他想要模仿的樣子。

“AI合成人像可能會侵犯公民的肖像權(quán)

、名譽(yù)權(quán)和隱私權(quán)

，具體需要結(jié)合實(shí)際情形來認(rèn)定。”華東政法大學(xué)刑事法學(xué)院教授

、博士生導(dǎo)師

，華東政法大學(xué)經(jīng)濟(jì)犯罪與刑民一體化研究所所長張勇向記者介紹道，認(rèn)定AI合成內(nèi)容是否構(gòu)成侵犯肖像權(quán)

，關(guān)鍵在于是否經(jīng)過被合成者的授權(quán)

。法律保護(hù)個人肖像權(quán)，他人未經(jīng)同意不得使用

。若AI合成的他人肖像未經(jīng)當(dāng)事人同意

，且該合成內(nèi)容被用于商業(yè)或公開場合傳播，可能構(gòu)成侵犯肖像權(quán)

。同時

，我國民法典明確將聲音權(quán)益作為特殊的人格權(quán)益予以保護(hù)。民法典第1023條規(guī)定

，對自然人聲音的保護(hù)

，參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。

“如果AI合成的他人形象或聲音被用于虛假

、惡意或誤導(dǎo)性的內(nèi)容

，導(dǎo)致公眾對該人物產(chǎn)生負(fù)面評價(jià)或誤解，進(jìn)而影響其名譽(yù)

，則可能構(gòu)成侵犯名譽(yù)權(quán)

。”張勇說，模擬明星音樂風(fēng)格

，制作“翻唱”作品

，還可能導(dǎo)致侵犯著作權(quán)等民事糾紛。

除了可能引發(fā)民事侵權(quán)糾紛

，AI合成人臉或聲音的技術(shù)

，也可能被不法分子利用，成為犯罪的“幫兇”

。浙江省杭州市蕭山區(qū)檢察院檢察官章蕾結(jié)合辦理的案件告訴記者：“‘AI換臉’等深度合成技術(shù)被廣泛應(yīng)用后

，一些不法分子利用從互聯(lián)網(wǎng)等渠道收集到的他人人臉信息等敏感個人信息，制作成虛假的換臉視頻在網(wǎng)絡(luò)平臺進(jìn)行傳播售賣

，不僅可能侵犯公民個人信息

，威脅公共信息安全，而且極易引發(fā)電信網(wǎng)絡(luò)詐騙

、敲詐勒索

、虛假宣傳等多種關(guān)聯(lián)違法犯罪，給不特定群眾的人身財(cái)產(chǎn)安全帶來重大隱患

。”

“被AI”后維權(quán)面臨取證難

就被AI冒名一事

，張文宏在接受央視采訪時回應(yīng)道：“除了向平臺方投訴，也曾考慮向公安機(jī)關(guān)報(bào)案

，但對方賬號不斷變化

，只能寄希望于相關(guān)部門加強(qiáng)監(jiān)管。”記者了解到

，實(shí)踐中

，當(dāng)事人遭遇AI合成技術(shù)侵權(quán)時

，維權(quán)路上遇到的最大障礙就是“取證難”。

“侵權(quán)方的匿名性

、隱蔽性等特點(diǎn)

，給受害方取證帶來不小挑戰(zhàn)，不僅關(guān)乎時間成本

，甚至可能耗費(fèi)巨大的人力財(cái)力等資源

。為此，部分受害方遇到該情況往往會迫于無奈

，放棄以訴訟方式維權(quán)

。”章蕾說。

即便對于司法辦案機(jī)關(guān)來說

，證據(jù)也是個難啃的“硬骨頭”

。章蕾介紹，在司法實(shí)踐中

，AI合成類案件調(diào)查取證難度較大

。一方面，辦案人員需要對信息處理者

、處理方式

、信息獲取、信息處理加工是否違法等進(jìn)行舉證

，需要同時具備精通數(shù)據(jù)處理

、算法、證據(jù)固定方式等方面的能力

，從而證明侵權(quán)違法事實(shí)的存在

；另一方面，利用AI合成技術(shù)從事違法犯罪行為往往通過網(wǎng)絡(luò)渠道進(jìn)行

，而網(wǎng)絡(luò)犯罪具有高度隱蔽性

，如果犯罪分子反偵查能力較強(qiáng)，那么犯罪鏈條將異常復(fù)雜

、涉及面更廣

，給案件偵破、證據(jù)收集固定帶來較大難度

。

“同時

，與AI合成技術(shù)快速發(fā)展不相匹配的是，目前鑒定AI合成作品的技術(shù)水平還不高

，鑒定難度大

，且沒有統(tǒng)一的鑒定標(biāo)準(zhǔn)。”北京市豐臺區(qū)檢察院二級檢察官助理王喬補(bǔ)充道。

盡管對AI合成內(nèi)容的取證存在困難

，但司法機(jī)關(guān)并未就此止步

，而是積極完善證據(jù)審核鏈條。據(jù)一位從事電子證據(jù)審查的業(yè)務(wù)專家透露

，目前司法領(lǐng)域正在使用圖像真實(shí)性鑒定等方法對AI合成技術(shù)生成的視頻進(jìn)行鑒定

，同時組合使用多種鑒偽算法識別AI合成內(nèi)容，鑒別相應(yīng)的內(nèi)容是否由AI生成

，為破解AI合成技術(shù)侵權(quán)提供了技術(shù)支持?div id="m50uktp" class="box-center"> ！?strong>　把AI合成技術(shù)關(guān)進(jìn)制度的籠子里

“AI合成技術(shù)并不能因?yàn)榭赡艽嬖谇謾?quán)風(fēng)險(xiǎn)就按下否定鍵

，在允許其發(fā)展的前提下，明確技術(shù)應(yīng)用邊界顯得尤為重要

。”張勇說

。

記者了解到，2022年11月25日國家互聯(lián)網(wǎng)信息辦公室

、工業(yè)和信息化部

、公安部聯(lián)合公布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，不得利用深度合成服務(wù)從事法律

、行政法規(guī)禁止的活動

，要求深度合成服務(wù)提供者要落實(shí)信息安全主體責(zé)任。2023年7月

，國家網(wǎng)信辦聯(lián)合多部門再次推出《生成式人工智能服務(wù)管理暫行辦法》

，對生成式人工智能產(chǎn)業(yè)的法律邊界，作出了列舉式規(guī)定

。2024年9月

，國家網(wǎng)信辦公布了《人工智能生成合成內(nèi)容標(biāo)識辦法(征求意見稿)》以及配套強(qiáng)制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法(征求意見稿)》，公開征求公眾意見……這表明

，我國對人工智能生成合成行為的法律規(guī)制在不斷完善

。

張勇建議，在織密制度籠子的同時

，要加大普法宣傳力度

，讓更多AI合成技術(shù)應(yīng)用者知道哪些方式可能觸犯法律，在應(yīng)用AI合成技術(shù)時要依法依規(guī)進(jìn)行

。通過有針對性的宣傳教育

，提醒公眾自覺保護(hù)人臉、指紋

、聲音等個人信息

，促使公眾更好防范人工智能技術(shù)不當(dāng)應(yīng)用帶來的潛在法律風(fēng)險(xiǎn)。

章蕾提醒，公眾要增強(qiáng)防范意識

，不要輕信求助的語言或視頻

。一旦遭遇AI侵權(quán)或不法分子利用AI合成技術(shù)詐騙時，對于觀看或者接收的視頻要做好截屏等信息留存