眼下，AI生成網(wǎng)絡(luò)平臺(tái)上各類(lèi)商品廣告隨處可見(jiàn)。醫(yī)生不少推銷(xiāo)者在視頻中聲稱(chēng)產(chǎn)品“親測(cè)有效”。貨擋箭然而細(xì)看之下，賣(mài)藥許多出鏡者並非真實(shí)的不免自然人，而是AI生成由AI生成的數(shù)字虛擬人。沒(méi)有感知能力的醫(yī)生數(shù)字人，怎能產(chǎn)生“真實(shí)體驗(yàn)”？貨擋箭又是否有資格為商品代言？
不久前，某AI短劇製作方發(fā)布了一條植入商業(yè)廣告，賣(mài)藥AI數(shù)字人以第一人稱(chēng)宣稱(chēng)：“我的不免美瞳戴了一天，都很舒服”，AI生成視頻中還附加了相關(guān)產(chǎn)品鏈接。醫(yī)生廣告一出，貨擋箭立刻引發(fā)大量網(wǎng)友質(zhì)疑，賣(mài)藥一個(gè)沒(méi)有生理感知能力的不免虛擬形象，憑什麼向消費(fèi)者推薦直接接觸眼角膜的美瞳產(chǎn)品。
8月3日，“AI短劇女主60秒廣告報(bào)價(jià)25.8萬(wàn)元”登上熱搜；8月6日，相關(guān)內(nèi)容的廣告視頻被製作者下架。
中國(guó)政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長(zhǎng) 李懷勝：廣告中如果數(shù)字人去表達(dá)隻有真人才能有的獨(dú)特化、個(gè)性化體驗(yàn)，就可能涉嫌虛假?gòu)V告。比如一個(gè)數(shù)字人，讚美某個(gè)食品我吃得特別好等等，這很顯然是一種擬人化的虛假宣傳。
據(jù)記者了解，美瞳，是裝飾性彩色平光隱形眼鏡，在我國(guó)按照第三類(lèi)醫(yī)療器械管理，與植入式心髒起搏器、人工關(guān)節(jié)、血管支架等同屬一類(lèi)監(jiān)管風(fēng)險(xiǎn)等級(jí)。《中華人民共和國(guó)廣告法》第十六條明確規(guī)定，醫(yī)療、藥品、醫(yī)療器械廣告不得利用廣告代言人作推薦、證明。專(zhuān)家指出，數(shù)字人是否具備代言資格，關(guān)鍵在於其背後是否有真實(shí)的人作為責(zé)任依托。
中國(guó)社會(huì)科學(xué)院法學(xué)研究所研究員 支振鋒：完全虛構(gòu)的，我們叫原生型AI數(shù)字人，是不能進(jìn)行代言的，因?yàn)椴粷M(mǎn)足法律所要求的真實(shí)充分對(duì)商品進(jìn)行試用、有真實(shí)體驗(yàn)。
但記者注意到，網(wǎng)絡(luò)平臺(tái)上，AI數(shù)字人“代言”廣告的現(xiàn)象十分普遍。記者在多個(gè)網(wǎng)絡(luò)平臺(tái)瀏覽發(fā)現(xiàn)，大量以“醫(yī)務(wù)工作者”“領(lǐng)域?qū)＜摇钡刃蜗蟪霈F(xiàn)的AI數(shù)字人，“代言”推廣眼部疾病、白發(fā)等的相關(guān)藥品和保健品。
記者調(diào)查發(fā)現(xiàn)，不少產(chǎn)品推廣視頻中，承擔(dān)推介角色的都是原生的AI數(shù)字人，推銷(xiāo)過(guò)程中還頻頻使用“斷根”這類(lèi)誇大療效的表述，部分視頻還展示了所謂的“科學(xué)實(shí)驗(yàn)”場(chǎng)景。
專(zhuān)家介紹，部分虛擬數(shù)字人刻意模仿醫(yī)務(wù)人員形象推廣相關(guān)產(chǎn)品，其帶來(lái)的風(fēng)險(xiǎn)，遠(yuǎn)超產(chǎn)品功效這一層麵。
中國(guó)科技大學(xué)生命學(xué)院副教授 李旭：這些數(shù)字人醫(yī)生最危險(xiǎn)的地方，不是在賣(mài)一個(gè)可能沒(méi)有效果的產(chǎn)品，更重要的是把人工智能技術(shù)變成了一個(gè)負(fù)麵的信任放大器。首先，大大降低了冒充一個(gè)專(zhuān)業(yè)權(quán)威的門(mén)檻，特別讓那些對(duì)AI技術(shù)不是那麼了解、健康素養(yǎng)又不夠高的消費(fèi)者，誤以為他們自己聽(tīng)到的是正規(guī)的醫(yī)療建議。
專(zhuān)家認(rèn)為，更危險(xiǎn)的是，這些仿冒醫(yī)務(wù)工作者的AI數(shù)字人，可能讓一些不明真相的患者放棄正規(guī)治療。
中國(guó)科技大學(xué)生命學(xué)院副教授 李旭：對(duì)於心血管患者來(lái)說(shuō)，這類(lèi)廣告其實(shí)會(huì)更加危險(xiǎn)。如果患者相信了所謂的溶解血管垃圾，一吃就斷根的這樣的神藥，擅自把應(yīng)該吃的藥給停了，反而有可能把自己重新推回到高風(fēng)險(xiǎn)狀態(tài)。
短短幾分鍾
就能生成一段AI數(shù)字人帶貨視頻
身著白大褂的AI數(shù)字人形象，誤導(dǎo)了不少消費(fèi)者。那麼，這類(lèi)看似專(zhuān)業(yè)權(quán)威的數(shù)字人廣告視頻究竟是如何製作出來(lái)的？調(diào)查中記者發(fā)現(xiàn)，如今製作這樣一條視頻，隻需上傳一張照片，短短幾分鍾，就能生成一段AI數(shù)字人帶貨視頻。
記者在手機(jī)應(yīng)用商店搜索發(fā)現(xiàn)，大量App宣稱(chēng)可“AI視頻一鍵生成，爆款複刻”，有的一周收費(fèi)僅需48元。在案例展示中，不僅有AI數(shù)字人為各種產(chǎn)品帶貨，還有餐館探店類(lèi)視頻。
記者下載並體驗(yàn)了這款A(yù)pp，並試著拍了一張水果照片上傳，選擇“帶貨視頻”，軟件隨即提供了一鍵生成功能。開(kāi)啟視頻一鍵生成後，僅僅幾分鍾，一段8秒鍾的數(shù)字人帶貨視頻就完成了。
AI數(shù)字人帶貨水果：姐妹們快看我發(fā)現(xiàn)了什麼好東西，這個(gè)皇冠梨表皮好光滑的小斑點(diǎn)，拿在手上沉甸甸的，水分肯定超足。
當(dāng)記者進(jìn)一步在提示詞中提出：生成一位醫(yī)務(wù)工作者，對(duì)一款膏藥進(jìn)行帶貨。結(jié)果，同樣在很短的時(shí)間內(nèi)，一位身穿醫(yī)務(wù)人員服裝的數(shù)字人，開(kāi)始對(duì)著膏藥吆喝起來(lái)。
AI數(shù)字人帶貨膏藥：姐妹們快看我發(fā)現(xiàn)了什麼好東西，這個(gè)膏藥別看起來(lái)很小，效果非常出色，這款膏藥價(jià)格不貴，但是家中需要常備，日常用它真的太合適了，趕緊試試。
記者發(fā)現(xiàn)，此類(lèi)App的核心賣(mài)點(diǎn)就是“低門(mén)檻、批量生成”，用戶(hù)隻要購(gòu)買(mǎi)服務(wù)，就能批量製造出大量數(shù)字人帶貨視頻。
廣告法明確規(guī)定，藥品、醫(yī)療器械廣告禁止利用代言人推薦證明，醫(yī)務(wù)人員形象不得用於商業(yè)廣告，而記者調(diào)查發(fā)現(xiàn)，在一些生成軟件的算法中，並沒(méi)有設(shè)置相應(yīng)的限製。
中國(guó)計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)安全專(zhuān)委會(huì)執(zhí)行委員 潘季明：一項(xiàng)好的技術(shù)發(fā)明出來(lái)之後，可以用來(lái)做很多好的事情，也可以被利用、濫用，所以我認(rèn)為更多的應(yīng)該屬於人的問(wèn)題，需要嚴(yán)格地去管控使用者怎麼更合理、更安全地去使用。
AI數(shù)字人推銷(xiāo)的商品出了問(wèn)題
法律責(zé)任該由誰(shuí)來(lái)承擔(dān)？
記者調(diào)查發(fā)現(xiàn)，一些數(shù)字人廣告不僅沒(méi)有AI標(biāo)識(shí)，甚至部分生成軟件還提供“去除水印”的功能。那麼，有了“AI生成”標(biāo)識(shí)，就可免除相應(yīng)的法律責(zé)任嗎？如果AI數(shù)字人推銷(xiāo)的商品出了問(wèn)題，法律責(zé)任到底該由誰(shuí)來(lái)承擔(dān)？
近年來(lái)，針對(duì)AI數(shù)字人的監(jiān)管措施已經(jīng)陸續(xù)出臺(tái)，但記者調(diào)查發(fā)現(xiàn)，一些從業(yè)者心存僥幸，有的不標(biāo)注AI生成標(biāo)識(shí)，有的想方設(shè)法抹掉標(biāo)識(shí)，還有人覺(jué)得隻要標(biāo)了“AI生成”，就可以免除相應(yīng)的責(zé)任。
中國(guó)社會(huì)科學(xué)院法學(xué)研究所研究員 支振鋒：如果在AI數(shù)字人投入的廣告營(yíng)銷(xiāo)裏進(jìn)行標(biāo)注，那麼免除的是如果不標(biāo)注所應(yīng)該承擔(dān)的責(zé)任，但是這個(gè)廣告是不是真實(shí)，廣告中的商品是不是假冒偽劣，這些責(zé)任是不能免除的。
數(shù)字人無(wú)法承擔(dān)法律主體責(zé)任，出了問(wèn)題，責(zé)任就要落實(shí)到屏幕背後真實(shí)的人身上。專(zhuān)家指出，追責(zé)需要厘清廣告背後各個(gè)實(shí)際參與方的責(zé)任。
中國(guó)政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長(zhǎng) 李懷勝：首先，廣告主要承擔(dān)內(nèi)容真實(shí)的責(zé)任。其次，廣告發(fā)布者，包括相關(guān)的代言機(jī)構(gòu)，以及製作AI數(shù)字人的相關(guān)機(jī)構(gòu)，要承擔(dān)內(nèi)容的審核責(zé)任。實(shí)際上，AI數(shù)字人本身並不能成為逃避法律處罰的一個(gè)責(zé)任，我們?cè)谧坟?zé)的過(guò)程中，還要穿透廣告背後實(shí)際的主體。
專(zhuān)家認(rèn)為，治理不能隻靠平臺(tái)“下架違規(guī)視頻”，而要升級(jí)為覆蓋整條傳播和商業(yè)鏈條的協(xié)同治理。監(jiān)管部門(mén)需要把責(zé)任鏈真正串起來(lái)，誰(shuí)製作了數(shù)字人、誰(shuí)寫(xiě)的腳本、誰(shuí)運(yùn)營(yíng)的賬號(hào)、誰(shuí)購(gòu)買(mǎi)的流量、誰(shuí)銷(xiāo)售的產(chǎn)品、誰(shuí)最終獲利，都應(yīng)該能夠追溯。
中國(guó)科技大學(xué)生命學(xué)院副教授 李旭：平臺(tái)需要守好第一道門(mén)，凡是涉及疾病治療、藥品、保健品、醫(yī)療器械這些商業(yè)健康內(nèi)容的時(shí)候，尤其是那些以醫(yī)生、藥師還有教授這樣一些專(zhuān)業(yè)身份出現(xiàn)的數(shù)字人，都應(yīng)該要進(jìn)行更加嚴(yán)格的身份授權(quán)和資質(zhì)核驗(yàn)。像根治、斷根、停藥、包好這樣一些絕對(duì)化的醫(yī)療承諾，更應(yīng)該直接觸發(fā)高風(fēng)險(xiǎn)的審核。
AI數(shù)字人虛假?gòu)V告，正在衝擊商業(yè)宣傳中“內(nèi)容真實(shí)、體驗(yàn)真實(shí)、身份真實(shí)”的三大倫理和法治底線(xiàn)。
各類(lèi)網(wǎng)絡(luò)平臺(tái)必須扛起主體把關(guān)責(zé)任，升級(jí)智能風(fēng)控與語(yǔ)義識(shí)別模型，對(duì)仿冒專(zhuān)業(yè)人士、偽造使用體驗(yàn)的違規(guī)生成內(nèi)容做到主動(dòng)識(shí)別、關(guān)口前移；同時(shí)，監(jiān)管部門(mén)通過(guò)強(qiáng)化AI生成內(nèi)容強(qiáng)製標(biāo)識(shí)、廣告前置審核、違規(guī)內(nèi)容快速處置等舉措，劃清AI廣告法律邊界，保障數(shù)字人廣告在法治軌道內(nèi)運(yùn)行。
