“你是溫崢嶸我是誰(shuí)？”
這句(zhè jù)充滿荒誕的質(zhì)問(wèn)，正出自演員溫(wēn)崢嶸本人。她公開(kāi)揭露了自己遭(zāo) AI 換臉??盜播的遭遇——多個(gè)帶貨直播??間，盜用(dào yòng)她形象，“假溫崢嶸”正賣力推銷。
而(ér)當(dāng)本尊親臨現(xiàn)場(chǎng)，發(fā)出這句直抵核心的質(zhì)問(wèn)(zhì wèn)后，溫崢嶸竟被 AI 直接拉黑。
隨手(suí shǒu)刷一刷短視頻，你會(huì)發(fā)現(xiàn)，類似(lèi sì)的戲碼幾乎無(wú)處不在。形形色色的明星仿佛(fǎng fú)在推薦著五花八門的產(chǎn)品，背后卻是(què shì)千篇一律的模板：播放一段剪輯的畫面(huà miàn)，配上 AI 模仿的明星聲音，抑或直接(zhí jiē)讓“ AI 換臉??明星”上陣直播??。
這已然形成(xíng chéng)了一套完整的、工業(yè)化生產(chǎn)的造假流水線(liú shuǐ xiàn)。
而在這個(gè)連“我該如何證明我(wǒ)是我”都成了現(xiàn)實(shí)??難題的(de)時(shí)代，AI 技術(shù)正在不動(dòng)聲色地侵蝕并重塑(zhòng sù)著我們社會(huì)的信任基石。
真假“溫(wēn)崢嶸”
演員溫崢嶸的這條與 AI 換臉??(huàn liǎn)技術(shù)對(duì)抗的漫漫維權(quán)之路，其實(shí)(qí shí)從今年 4 月就已經(jīng)開(kāi)始了。彼時(shí)(bǐ shí)，她曾在個(gè)人社交賬號(hào)發(fā)布短(duǎn)視頻，公開(kāi)“打假”那些冒用她形象進(jìn)行(jìn xíng)帶貨的行為。還明確表示自己只有(zhǐ yǒu)一個(gè)賬號(hào)直播??，并支持粉絲對(duì)盜播(dào bō)的直播??間進(jìn)行舉報(bào)。
然而溫崢嶸個(gè)人(gè rén)的維權(quán)似乎并沒(méi)有什么效果。直到(zhí dào)她發(fā)現(xiàn)竟然有人 AI 換臉??變成“她本人(běn rén)”在直播??間帶貨，但有網(wǎng)友詢問(wèn)“是否(shì fǒu)為本人”時(shí)，也總會(huì)有看似無(wú)關(guān)(wú guān)的賬號(hào)迅速回 . 復(fù)“就是她本人(běn rén)”。
然而，在溫崢嶸親自發(fā)評(píng)論質(zhì)問(wèn)(zhì wèn)對(duì)方后，她直接就被拉黑(hēi)了——連對(duì)峙的機(jī)會(huì)都不曾擁有(yōng yǒu)。
除了直播??間，那些冒用“溫崢嶸”之名的(de) AI 推銷視頻也在各大平臺(tái)頻繁出現(xiàn)(chū xiàn)。這些商家盜用她的直播??素材，通過(guò)(tōng guò)錄播摳圖、AI 換臉??等技術(shù)手段，合成出幾可亂(chū jǐ kě luàn)真的虛假直播??內(nèi)容。
更令人咋舌的是(shì)，在這些精心炮制的視頻中，不僅(bù jǐn)有溫崢嶸，頻繁出現(xiàn)的還有舒淇、張柏芝(zhāng bǎi zhī)等明星，視頻中的她們都聲稱(shēng chēng)“支持”溫崢嶸推薦的產(chǎn)品。這顯然(xiǎn rán)也在說(shuō)明，這些明星的聲音、肖像(xiào xiàng)也已早早被 AI 成功復(fù)制。
依據(jù)平臺(tái)(píng tái)規(guī)定，如果使用 AI 生成內(nèi)容，視頻中應(yīng)當(dāng)(yīng dāng)明確標(biāo)注。然而這些商家大多未作任何(rèn hé)標(biāo)識(shí)，即便有在畫面角落打上(shàng)“ AI 生成”水印的，也常以貼紙、文字等(děng)有意遮擋，試圖掩蓋虛擬與真實(shí)的(de)界限。
而此類的 AI 換臉??視頻現(xiàn)象猖狂(chāng kuáng)到什么程度呢？有粉絲透露，自己(zì jǐ)曾一天舉報(bào) 18 個(gè)“溫崢嶸”直播??間，但(dàn)根本舉報(bào)不過(guò)來(lái)，因?yàn)樾陆ㄙ~號(hào)的(de)迅速，往往舉報(bào)一個(gè)就會(huì)新增一個(gè)(yí gè)。
從 4 月溫崢嶸發(fā)布短視頻維權(quán)(wéi quán)至今，不難發(fā)現(xiàn)短短半年間，AI 技術(shù)的(de)迭代就已讓“假溫崢嶸”完成了(le)“賽場(chǎng)轉(zhuǎn)換”。賽博溫崢嶸不僅能在直播??間(zhí bō jiān)帶貨，還能分享日常、即興跳舞。除了(chú le)偶爾流露出的亢奮狀態(tài)與溫崢嶸(zhēng róng)本人氣質(zhì)略有出入外，其形象、聲音、微(wēi)表情幾乎難以辨識(shí)。
最密集時(shí)，同一時(shí)間?(tóng yī shí jiān)，不同的衣服，溫崢嶸居然可以實(shí)現(xiàn)(shí xiàn)在三個(gè)直播??間同時(shí)帶貨的“有絲分裂”。由于(yóu yú)觀眾通常只停留于單一直播??間，除非(chú fēi)刻意對(duì)比觀察，否則很難察覺(jué)眼前主播(zhǔ bō)實(shí)為“多人一面”的數(shù)字幻影。
泛濫的(de) AI 帶貨也已對(duì)溫崢嶸本人的聲譽(yù)(shēng yù)造成實(shí)質(zhì)傷害。有網(wǎng)友就在評(píng)論(píng lùn)區(qū)坦言，自己就是因?yàn)轭l繁刷到“溫(wēn)崢嶸”帶貨直播??，對(duì)她產(chǎn)生反感，直至(zhí zhì)得知真相才恍然大悟。
另一方面，正因真假難辨，溫(wēn)崢嶸想要證明“我不是我”的維權(quán)(wéi quán)成本被無(wú)限推高。她只能借助媒體(méi tǐ)發(fā)聲、在個(gè)人賬號(hào)反復(fù)澄清立場(chǎng)。但(dàn)在算法驅(qū)動(dòng)的內(nèi)容洪流中，這樣(zhè yàng)的努力猶如蚍蜉撼樹。
最可能的情況(qíng kuàng)是，澄清尚未觸達(dá)多數(shù)用戶，新一批(yī pī)仿冒內(nèi)容又已悄然上線。
這場(chǎng)溫(wēn)崢嶸與賽博溫崢嶸的身份爭(zhēng)奪戰(zhàn)，變成(biàn chéng)了人們?cè)谶@個(gè)數(shù)字時(shí)代所要(yào)面對(duì)的荒誕困境的縮影。
數(shù)字幽靈(yōu líng)
然而這樣的賽博困境并不只(zhǐ)發(fā)生在溫崢嶸的身上，實(shí)際上，幾乎(jī hū)所有的明星都在面臨著 AI 換臉??(huàn liǎn)的潛在威脅。
在與 AI 相關(guān)的黑產(chǎn)(hēi chǎn)從業(yè)者的報(bào)價(jià)中，1600 元就能定做(dìng zuò)一份“名人臉”。楊冪、迪麗熱巴、劉亦菲等(děng)明星都在這份定制名單上。由于(yóu yú)很多認(rèn)證系統(tǒng)??僅僅檢查臉部和聲音(shēng yīn)，而這兩點(diǎn)目前都可以被 AI 偽造，這(zhè)也導(dǎo)致系統(tǒng)??容易受到深度偽造攻擊。
這(zhè)與我們傳統(tǒng)印象中的“明星臉”截然不同(jié rán bù tóng)。因?yàn)闊o(wú)論長(zhǎng)得有多像，那些刻意模仿(kè yì mó fǎng)明星的網(wǎng)紅也只敢在名字(míng zì)上打打“擦邊球”，不敢真的頂著明星(míng xīng)的頭銜直播??。然而，AI 換臉??就是偽造明星(míng xīng)身份，也因此對(duì)明星的社會(huì)影響(yǐng xiǎng)危害巨大。
比如就有網(wǎng)友曾經(jīng)刷到(shuā dào) AI 換臉??楊冪的直播??間，賣衣服的(de)主播頂著楊冪的臉，只要(zhǐ yào)不回應(yīng)是不是楊冪本人的評(píng)論，就(jiù)很容易讓網(wǎng)友產(chǎn)生是楊冪(mì)在直播??的感覺(jué)。
而這個(gè)操作也(yě)并不復(fù)雜。曾有“賣家”在網(wǎng)上(wǎng shàng)分享過(guò)如何操控?fù)Q臉??軟件對(duì)直播??間(zhí bō jiān)里的人進(jìn)行實(shí)時(shí)換臉??，在他(tā)的操作之下，迪麗熱巴秒變成龍??(lóng)也只要 5 秒就可以完成。
，時(shí)長(zhǎng)(zhǎng) 00:20
實(shí)際上，當(dāng)賣貨直播??與 AI 強(qiáng)綁定，明星(míng xīng)的肖像安全僅僅是問(wèn)題的冰山一角(bīng shān yī jiǎo)。
比如有網(wǎng)友發(fā)現(xiàn)，很多直播??間中那些(nà xiē)看似美麗、有活力的主播，其實(shí)都(dōu)是 AI。當(dāng)我們進(jìn)入直播??間時(shí)，看到主播(zhǔ bō)在賣力帶貨，卻不知屏幕那頭的(de)他們，可能只是一個(gè)“數(shù)字幽靈”。
早前就(jiù)有網(wǎng)友調(diào)侃過(guò)，在直播??間買衣服(yī fú)，發(fā)現(xiàn)主播走路的姿勢(shì)很奇怪，結(jié)果(jié guǒ)是 AI 生成的。所謂的“上身效果”其實(shí)(qí shí)完全和實(shí)物效果不同。真相是，由于(yóu yú)真人模特成本高，AI 模特更便宜，現(xiàn)在(xiàn zài)的很多商家更愿意選擇 AI 主播。
寧可(nìng kě)苦了消費(fèi)者，也不能讓商家少(shǎo)賺 1 分錢。
還有那些午夜場(chǎng)還在(zài)持續(xù)開(kāi)播，播滿通宵的“主播們”，她們永遠(yuǎn)(yǒng yuǎn)不疲倦，可以 24 小時(shí)不間斷地在多個(gè)直播??間(zhí bō jiān)“上班”，推銷各種產(chǎn)品。有網(wǎng)友就曾(céng)很奇怪為什么這些主播能這么拼命(pīn mìng)，后來(lái)才發(fā)現(xiàn)這直播??間里都是(shì)科技與狠活。
這條日趨成熟的(de)低成本 AI 直播??產(chǎn)業(yè)鏈，憑借采集真人主播的(de)影像資料，制作出高度仿真的數(shù)字(shù zì)人模型。這些模型一旦制作完成，便(biàn)可被反復(fù)使用、無(wú)限復(fù)制，甚至同時(shí)(tóng shí)出現(xiàn)在多個(gè)直播??間進(jìn)行“不間斷帶貨”。
當(dāng)然(dāng rán) AI 主播的問(wèn)題也很明顯，就是這些(zhè xiē)主播大多回答不了具體的問(wèn)題，特別(tè bié)是服裝類產(chǎn)品，當(dāng)網(wǎng)友想要詢問(wèn)某些(mǒu xiē)細(xì)節(jié)時(shí)，AI 主播通常不予理會(huì)，或是答非所問(wèn)(dá fēi suǒ wèn)，因?yàn)樗麄兊幕卮鹗歉鶕?jù)模板生成(shēng chéng)的，回答效果自然也不可能盡如人意(jìn rú rén yì)。
所以此類直播??大多在半夜，且在(zài)面向老年人的保健品帶貨直播??間更為常見(jiàn)(cháng jiàn)。原因我們當(dāng)然也清楚，比起跟隨科技(kē jì)成長(zhǎng)起來(lái)的年輕人，老年人更不容易(róng yì)識(shí) . 別 AI 的真假，也更容易掉入(diào rù) AI 主播的圈套。
還有直播??間利用 AI 技術(shù)搭建(dā jiàn)假場(chǎng)景帶貨，這個(gè)情況通常會(huì)出現(xiàn)(chū xiàn)在購(gòu)買食材相關(guān)的直播??間。你以為(yǐ wéi)是直播??間沒(méi)有中間商的新鮮食材，其實(shí)(qí shí)全是 AI 影像做出的假象。
而在這種(zhè zhǒng)“野火燒不盡”的態(tài)勢(shì)下，普通消費(fèi)者簡(jiǎn)直防不勝防(fáng bù shèng fáng)。一旦他們?cè)谥辈??間下單，最終收到的(de)商品貨不對(duì)板，等待他們的就非常(fēi cháng)有可能是遙遙無(wú)期的維權(quán)之路(lù)。
鬼??打墻????
AI 入侵的也不只有直播??間(zhí bō jiān)，還有最考驗(yàn)溝通能力的客服環(huán)節(jié)(huán jié)。
與直播??間里活力四射的 AI 主播不同(bù tóng)，在這里等候我們的，是一個(gè)冷冰冰(lěng bīng bīng)、程序化、缺乏共情的 AI 客服系統(tǒng)??。
AI 客服只能(zhǐ néng)識(shí) . 別有限的口令，對(duì)于消費(fèi)者的(de)問(wèn)題無(wú)法拆解并有效回 . 復(fù)。有(yǒu)網(wǎng)友就吐槽：說(shuō)她問(wèn)網(wǎng)店(wǎng diàn)客服，服裝配套的褲子有沒(méi)有，其實(shí)是(shì)想讓客服幫忙找貨，結(jié)果 AI 客服能(néng)回答的只有模塊三件套——
能拍就是(jiù shì)有貨、您可以看看我們的暢銷(chàng xiāo)款、請(qǐng)您對(duì)我的服務(wù)作出評(píng)價(jià)(zuò chū píng jià)。
還有網(wǎng)友說(shuō)自己想問(wèn)產(chǎn)品凈重(jìng zhòng)多少，客服回答規(guī)格里有，完全無(wú)法(wú fǎ)識(shí) . 別她的訴求??。
于是，消費(fèi)者不可避免(bù kě bì miǎn)地陷入了 AI 客服精心構(gòu)建的“邏輯(luó jí)迷宮”。在這個(gè)迷宮里，他們需要反復(fù)(fǎn fù)表達(dá)自己的訴求??，或是在多層級(jí)(céng jí)的菜單中做出往往并不精準(zhǔn)(jīng zhǔn)的選擇。
AI 客服能夠精準(zhǔn)識(shí) . 別關(guān)鍵詞(guān jiàn cí)，卻無(wú)法理解一句話背后的憤怒(fèn nù)、焦急與無(wú)奈。它只會(huì)用一成不變的、標(biāo)準(zhǔn)化(biāo zhǔn huà)的禮貌口吻回應(yīng)。
實(shí)際上，這是技術(shù)與(yǔ)服務(wù)的本質(zhì)產(chǎn)生的錯(cuò)位：AI 客服無(wú)法(wú fǎ)識(shí) . 別人類交流語(yǔ)境下的復(fù)合(fù hé)需求??，只能以最簡(jiǎn)單的模塊判斷(pàn duàn)、溝通，其結(jié)果當(dāng)然不盡如人意。所以也(yě)有人說(shuō)，在 AI 進(jìn)入客服行業(yè)后，最(zuì)值錢的三個(gè)字就是：轉(zhuǎn)人工。
而(ér)尷尬的現(xiàn)狀是，即使轉(zhuǎn)成人工(rén gōng)，消費(fèi)者也會(huì)對(duì)此抱有懷疑。因?yàn)?yīn wèi)智能客服的回 . 復(fù)模式單一，對(duì)于(duì yú)消費(fèi)者提出的問(wèn)題也無(wú)法真正實(shí)現(xiàn)(shí xiàn)有效解答，反而逼迫消費(fèi)者成為維權(quán)路上(lù shàng)“鬼??打墻????”的雙重受害者。
所以更有(yǒu)網(wǎng)友吐槽，其實(shí)商家根本就不在乎真正(zhēn zhèng)解決消費(fèi)者的需求??，他們就是要用(yòng)雞同鴨講的 AI 客服，將投訴、顧客需求??擋(dǎng)在外面。
發(fā)現(xiàn)沒(méi)有，AI 并沒(méi)有讓商業(yè)(shāng yè)環(huán)境變得更方便，反而加重了商家(shāng jiā)與消費(fèi)者之間的隔閡。某些無(wú)良的(de)商家，前端利用 AI 技術(shù)無(wú)限地放大營(yíng)銷(yíng xiāo)的聲量，甚至不惜造假以觸達(dá)用戶(yòng hù)；后端卻用另一套 AI 技術(shù)來(lái)屏蔽(píng bì)、過(guò)濾和延緩用戶因前端的過(guò)度(guò dù)承諾或欺詐行為而產(chǎn)生的合理(hé lǐ)訴求??。
企業(yè)在這套機(jī)制中，似乎短暫(duǎn zàn)地享受到了低成本、高轉(zhuǎn)化的(de)紅利，但長(zhǎng)遠(yuǎn)來(lái)看，它正在無(wú)情地侵蝕(qīn shí)品牌最寶貴的資產(chǎn)——信任。AI，這個(gè)本應(yīng)(běn yīng)服務(wù)于人類的工具，在此刻反而(fǎn ér)成了阻隔溝通、推諉責(zé)任的幫兇(bāng xiōng)。
眼見(jiàn)不為實(shí)
沒(méi)有人會(huì)否認(rèn)，AI 的發(fā)展確實(shí)(què shí)給我們的生活帶來(lái)了方便。但(dàn)當(dāng) AI 一頭扎進(jìn)電商這片熱土，它帶來(lái)(dài lái)的就不全是驚喜了?！?AI 換臉??”“ AI 客服”只是(zhǐ shì)一系列亂象的縮影，而這一切恰恰(qià qià)說(shuō)明：技術(shù)一旦跑在規(guī)則和良知(liáng zhī)的前面，再好的工具也可能(kě néng)變成坑人的陷阱???。
更可怕的是(shì)，這些亂象還只是水面上的波紋(bō wén)，真正危險(xiǎn)的暗流已經(jīng)悄然降臨，那(nà)就是利用 AI 技術(shù)進(jìn)行的精準(zhǔn)詐騙。
是(shì)的，我們正一步步走進(jìn)一個(gè)“親眼所見(jiàn)也(yě)不一定為真”的時(shí)代，AI 詐騙成(chéng)了這場(chǎng)信任危機(jī)里最讓人防不勝防的一招(yī zhāo)。AI 的發(fā)展讓騙子不僅可以“換臉??”“換聲(huàn shēng)”，甚至能模仿你的親人、朋友在(zài)視頻里跟你實(shí)時(shí)對(duì)話。
今年夏天南京(nán jīng)就審理了一起 AI 換臉??詐騙案，犯罪??分子通過(guò)(tōng guò) AI 換臉??軟件，以“人臉識(shí) . 別”的方式(fāng shì)，登錄了 23 名被害人的金融平臺(tái)支付(zhī fù)賬戶，實(shí)施犯罪??；還有騙子會(huì)利用 AI 配音(pèi yīn)給留學(xué)生的家長(zhǎng)打電話，假裝孩子被(bèi)綁架，并要求??家長(zhǎng)支付贖金。
所以，別(bié)再覺(jué)得只有老年人才會(huì)上當(dāng)，在(zài)高度逼真的 AI 面前，自認(rèn)是見(jiàn)過(guò)世面的年輕人(nián qīng rén)也未必能全身而退。而面對(duì)這樣的(de)新現(xiàn)實(shí)??，我們每個(gè)普通人能做的(de)，或許就是重新拾起一樣老法寶——合理(hé lǐ)的“懷疑”。
從帶貨直播??間里真假難辨的(de)“溫崢嶸”，到維權(quán)路上冷冰冰的 AI 客服(kè fú)，我們正在經(jīng)歷一場(chǎng)前所未有的信任危機(jī)。技術(shù)(jì shù)可以模仿人的面容、聲音，甚至可以(kě yǐ)與我們進(jìn)行正常的對(duì)話……當(dāng) AI 能夠(néng gòu)代替無(wú)數(shù)面孔，模糊無(wú)數(shù)真相時(shí)，我們(wǒ men)或許應(yīng)該更加清醒。面對(duì)技術(shù)的浪潮(làng cháo)，我們不可能，也不應(yīng)該輕易繳械投降(jiǎo xiè tóu xiáng)。
溫崢嶸在直播??間里質(zhì)問(wèn)“你是(shì)溫崢嶸，我是誰(shuí)”的那一刻，恰恰(qià qià)展現(xiàn)了每個(gè)普通人在 AI 時(shí)代最該保有(bǎo yǒu)的姿態(tài)——不盲從、不妥協(xié)。
在這個(gè)(zhè ge)虛實(shí)交織的時(shí)代，保持質(zhì)疑的勇氣(yǒng qì)，守護(hù)???真實(shí)的自我，這才是我們最(zuì)堅(jiān)固的數(shù)字護(hù)城河吧！
