你眼前的“知識(shí)偶像”可能是場(chǎng)“AI騙局”？前不久的誠(chéng)信北京3·15特別節(jié)目上，帆書創(chuàng)始人樊登揭露了一場(chǎng)AI時(shí)代“知識(shí)盜竊案”——有人用AI合成他的聲音和形象，推薦爛書圈錢。

AI技術(shù)以驚人速度重塑世界，但與之伴生的是關(guān)于“真實(shí)”的信任危機(jī)。不少知名人士投訴發(fā)聲：“AI劉曉慶”在視頻平臺(tái)大談“成功學(xué)”、“AI靳東”誘騙老年人傾家蕩產(chǎn)、“AI張文宏”虛假帶貨……AI換臉擬聲技術(shù)濫用觸角伸向社會(huì)的信任根基。人們不禁要問：數(shù)字時(shí)代，誰來守護(hù)“真容”？

其中，有的AI假視頻直接給博主“捅刀”，讓樊登等積累多年的知識(shí)IP形象淪為“爛書推銷員”。你以為買到的是一本某名家推薦的好書？不！那可能是AI精心包裝的“文字垃圾”。當(dāng)爛書披著名人外衣橫行，消費(fèi)者被騙后，罵的是博主，斷的是信任，毀的是品牌。加上流量算法，造假者用低價(jià)爛書砸錢買流量，真正的好書反而被淹沒——這不僅是商業(yè)欺詐，更是對(duì)知識(shí)價(jià)值的踐踏。

不只圖書市場(chǎng)領(lǐng)域，技術(shù)鴻溝讓老年群體成為AI詐騙“重災(zāi)區(qū)”。騙子利用“銀發(fā)族”對(duì)名人崇拜、對(duì)親情渴望的心理弱點(diǎn)，通過偽造互動(dòng)視頻實(shí)施情感操控。曾有一段模擬子女求助的AI視頻，差點(diǎn)讓母親匯出全年積蓄。有網(wǎng)友吐槽：山寨明星遍地，在“冒牌貨”光環(huán)加持下，買到一堆“冒牌貨”。

當(dāng)技術(shù)成為“情感勒索”的工具，若放任“眼見不為實(shí)”成為常態(tài)，人與人、人與機(jī)構(gòu)間的信任將面臨崩塌。這需要法律約束、平臺(tái)責(zé)任和公眾素養(yǎng)合力鑄成盾牌。此前兩會(huì)期間企業(yè)家雷軍談到，“AI換臉擬聲”是違法侵權(quán)重災(zāi)區(qū)，易引發(fā)侵犯肖像權(quán)、侵犯公民個(gè)人信息權(quán)益以及詐騙等犯罪行為，甚至造成難以挽回的形象聲譽(yù)損害。業(yè)內(nèi)呼吁重拳出擊，完善AI立法，嚴(yán)懲造假產(chǎn)業(yè)鏈，讓“技術(shù)濫用”付出代價(jià)。

算法不能只追逐流量，平臺(tái)必須加強(qiáng)審核，對(duì)虛假內(nèi)容加強(qiáng)甄別。AI造假成本低到離譜，但傷害高及致命。因此，技術(shù)博弈的長(zhǎng)期性要求監(jiān)管必須前置，而非事后補(bǔ)救。必須看到，AI造假亂象的背后，是技術(shù)倫理的失序與人性的貪婪合謀。須知科技向善不是口號(hào)，而是法律、責(zé)任與良知的共同投射。

當(dāng)造假視頻被及時(shí)斬?cái)?，?dāng)老人免于“數(shù)字圍獵”，當(dāng)名人的“臉”與公眾的“信”不再被肆意盜用，技術(shù)才有望照亮人性之光?？萍枷蛏?，從你我較真開始。（摘自《文匯報(bào)》）