西藏日喀则地震，竟然有人用 AI 生成的旧图假装“被压在废墟下的孩子”！！！

2025年1月7日上午9时05分，西藏日喀则市定日县发生6.8级地震。灾情牵动人心，当地流传出的各种救援画面，更是令人揪心不已。然而，与此同时，也有一些不真实的内容趁机“浑水摸鱼”，利用人们的同情心进行误导。

比(bǐ)如(rú)下(xià)面(miàn)这个广泛流传在“日喀则地震”视频中的图片——一个戴帽子、被压在废墟下的小孩，其实就是由AI生成的。

据“全民较真”公众号查证，它最早出现在一个叫“AI小芭芘”的账号2024年11月18日的短视频中，作者也声明了“内容由AI生成”。仔细观察图片红圈的部分，也可以看到这个小孩的左手有6根手指。

不光是这张图片，还有一些标着“日喀则地震”的图片也并非是现场图。比如这张“在废墟中妈妈用身体为孩子顶住压力”的图片，评论区还有人说“目前已经救出，其母亲多处骨折还是(shì)平(píng)安(ān)无(wú)事(shì)”，对(duì)于(yú)不(bù)明(míng)真(zhēn)相(xiāng)的(de)路人很容易相信确有其事，但只要截图后选择“识别图片”，就能在同平台上看到2022年就有创作者发布，当时还是“一张照片一个感人(rén)故(gù)事(shì)”，明(míng)显(xiǎn)是(shì)借(jiè)由AI或旧图重新拼接，故意混淆视听。

平台上疑似使用了AI生成技术的图片，有些会由作者或平台标注提示，但有些没有。图源：网络截图

以前我们都说“有图有真相”，但随着AI的发展，有图也未必有真相。尤其是在出现重大灾情、重大事件的时候，难以避免有人利用人们的同情等情绪，利用AI的文本和图像生成功能，编造虚假信息、博取流量。

今天，我们从技术角度来剖析一下此类事件，并呼吁大家提高警惕。

AI技术愈加成熟

造假门槛越来越低

AI生成被压在废墟下孩子的(de)图(tú)片(piàn)，这(zhè)背(bèi)后(hòu)涉(shè)及(jí)的(de)是(shì)生(shēng)成(chéng)式(shì)人(rén)工(gōng)智(zhì)能(néng)技(jì)术(shù)，以(yǐ)文本(běn)到(dào)图(tú)像(xiàng)生(shēng)成(chéng)模(mó)型(xíng)（Text-to-ImageModels）为(wèi)核(hé)心(xīn)。这(zhè)类(lèi)技(jì)术(shù)通(tōng)过(guò)解(jiě)析(xī)用(yòng)户(hù)输(shū)入(rù)的(de)文字(zì)描(miáo)述(shù)，将(jiāng)语(yǔ)义(yì)信(xìn)息(xi)转(zhuǎn)化(huà)为(wèi)逼(bī)真(zhēn)的(de)图(tú)像(xiàng)。

其(qí)原(yuán)理(lǐ)基(jī)于(yú)扩(kuò)散(sàn)模(mó)型(xíng)（DiffusionModels）或(huò)生(shēng)成(chéng)对(duì)抗(kàng)网(wǎng)络(luò)（GAN，GenerativeAdversarialNetwork）。扩(kuò)散(sàn)模(mó)型(xíng)是(shì)基(jī)于(yú)概(gài)率(lǜ)模(mó)型(xíng)，在(zài)每(měi)一(yī)步(bù)迭(dié)代(dài)中(zhōng)将(jiāng)噪(zào)声(shēng)图(tú)像(xiàng)调(diào)整(zhěng)为(wèi)更(gèng)加(jiā)符(fú)合(hé)输(shū)入(rù)描(miáo)述(shù)的(de)形(xíng)态(tài)。例(lì)如(rú)，输(shū)入(rù)“被(bèi)废(fèi)墟(xū)压(yā)住(zhù)的(de)孩(hái)子(zi)”，模(mó)型(xíng)会(huì)解(jiě)析(xī)关键词（主体(tǐ)、情(qíng)感(gǎn)、环(huán)境(jìng)等(děng)），并(bìng)分(fēn)步(bù)骤(zhòu)添(tiān)加(jiā)废(fèi)墟(xū)、灰(huī)尘(chén)等(děng)元(yuán)素(sù)，使(shǐ)图(tú)像(xiàng)逐(zhú)步(bù)逼(bī)近(jìn)最(zuì)终(zhōng)的(de)文字(zì)描(miáo)述。

生成对抗网络是通过生成器和判别器的对抗训练生成高质量图像。生成器根据文字描述生成图像，而判别器判断生成的图像是否真实。通过不断的对抗，模型最终生成高度逼真的场景。

一网友用AI输入文字生成的图

随着AI图像生成工具的普及，普通用户无需技术背景，只需输入文字即可生成相关图像，极大降(jiàng)低了滥用门槛，很容易引发争议。尤其是生成灾难图像，不仅可能制造恐(kǒng)慌(huāng)，误(wù)导(dǎo)公(gōng)众(zhòng)，还(hái)是(shì)对(duì)真(zhēn)实灾难和受灾者的亵渎。

更可怕的是，如果别有用心的人利用AI技术生成一些诸如恐怖袭击视频、灾难事件或大(dà)规(guī)模(mó)冲(chōng)突(tū)的(de)视(shì)频(pín)，还(hái)可(kě)能(néng)引(yǐn)起(qǐ)群(qún)众(zhòng)恐(kǒng)慌(huāng)，导(dǎo)致(zhì)不(bù)理(lǐ)性(xìng)的(de)群(qún)体(tǐ)行(xíng)为(wèi)甚(shén)至(zhì)社(shè)会(huì)动(dòng)荡(dàng)。

AI造(zào)假(jiǎ)的(de)负(fù)面影响远比想象中大

如何识别和检测？

随着AI造假技术的不断发展，那些建立在“信任”基础上的社会秩序正面临前所未有的挑战。

首先，社会信息的真实性可能崩塌。如果虚假信息以高度可信的方式呈现给社会公众，操纵大众心理、大众情绪和大众预期(qī)，会(huì)引(yǐn)发(fā)广(guǎng)泛(fàn)的(de)社(shè)会(huì)不(bù)信(xìn)任(rèn)，公(gōng)众(zhòng)将(jiāng)不(bù)再(zài)信(xìn)任(rèn)新(xīn)闻(wén)、名人(rén)言(yán)论(lùn)或(huò)商(shāng)业(yè)声(shēng)明(míng)，甚(shén)至(zhì)可能引发市场动荡和社会恐慌。

而长期接触虚假信息，可能让公众在真真假假中迷失自我，从而做出比较极端的选择。因为如果长期无法分辨真伪，他们要么相信一切，要么不信任一切，其结果是产生“信任衰退效应”。而信任的崩塌，对于一个健全社会的危害，不言而喻。

其次，司法系统也会面临危机(jī)。伪造的音视频证据可能干扰司法判决，削弱法律的权威性。此外，商业领域也可能受到严重冲击。虚假的决策声明或谈判内容可能导致错误决策和经济损失等等。

回想互联网早期咱们经常说的是“有图有真相”，P图的多了以后就成了“有视频有真相”，到了现在已经成了“有视频也不一定有真相”，这个过程不过用了20年。

此外，很多AI生成的文字、图片、视频，将掺杂在真实信息中间，影响我们的搜索结果，也就更容易出现前文中所说的将AI生成的内容当成真事的情况。

那么，如何识别AI造假内容呢？

制作不够精良的AI造假视频、图文用肉眼就可看出异常。例如，人物表情僵硬、面部边缘模糊(hu)、背(bèi)景(jǐng)的(de)过(guò)渡(dù)不(bù)自(zì)然(rán)、人(rén)脸(liǎn)的(de)光(guāng)影(yǐng)效(xiào)果(guǒ)与(yǔ)周(zhōu)围(wéi)环(huán)境(jìng)的(de)光(guāng)线(xiàn)情(qíng)况(kuàng)不(bù)符(fú)、手指扭曲或手指数量不对等。但是，随着技术的进步，这些异常特征越来越少，肉眼分辨也会越来越难。

这种情况下必须通过技术检测、法律监管、公众教育和平台审查等方法来防范AI技术的滥用，尤其公众，一定要认(rèn)识(shi)到(dào)AI造(zào)假(jiǎ)的(de)危(wēi)险(xiǎn)性(xìng)，并(bìng)提(tí)高(gāo)警(jǐng)惕(tì)。比(bǐ)如(rú)，去(qù)信(xìn)任(rèn)那(nà)些(xiē)权(quán)威(wēi)(wēi)机(jī)(jī)构(gòu)或(huò)有(yǒu)权(quán)威(wēi)机(jī)构(gòu)背(bèi)书(shū)、声(shēng)誉(yù)一(yī)贯(guàn)良(liáng)好(hǎo)、出(chū)错(cuò)也(yě)能(néng)自(zì)己(jǐ)纠(jiū)错(cuò)的(de)信(xìn)源(yuán)；对(duì)于(yú)任(rèn)何(hé)来(lái)源(yuán)可(kě)疑(yí)的(de)内(nèi)容(róng)，我(wǒ)们(men)都(dōu)要(yào)保(bǎo)持合理的怀疑，尤其是打算根据这些信息采取进一步行动的时候。

面对灾情，我们能理解社会公众心系灾区，为受灾群众担忧的心情。但我们也需要警惕某些不怀好意的人利用社会公众的这种心情，通过AI技术伪造内容，骗取同情，套取流量，甚至做出更出格的、有违公序良俗的事情。

大灾面前有大爱。廓清真相，明辨真伪，避免受到假图片、假信息的误导(dǎo)，让(ràng)谣(yáo)言(yán)无(wú)所(suǒ)遁(dùn)形(xíng)，才(cái)能(néng)让(ràng)大(dà)爱(ài)更(gèng)顺(shùn)畅(chàng)地(de)传(chuán)递(dì)！

参(cān)考(kǎo)资(zī)料(liào)

[1]《西(xi)藏(cáng)(cáng)日(rì)(rì)喀(kā)(kā)则(zé)(zé)地(de)(de)震(zhèn)(zhèn)，这(zhè)(zhè)个(gè)(gè)被(bèi)(bèi)压(yā)(yā)在(zài)(zài)废(fèi)(fèi)墟(xū)(xū)下(xià)的(de)小(xiǎo)男(nán)孩(hái)居(jū)然(rán)是(shì)AI生(shēng)成(chéng)的(de)丨(gǔn)热(rè)点(diǎn)较(jiào)真(zhēn)》

https://mp.weixin.qq.com/s/uG-N5X5H8G8khdmm3OiAgA

[2] 《防范化解意识形态领域重大风险》王华著 国家行政管理出版社

策划制作

作者丨新(xīn)媒(méi)体(tǐ)

审(shěn)核(hé)丨(gǔn)于(yú)旸(yáng)腾(téng)讯(xùn)玄(xuán)武(wǔ)实(shí)验(yàn)室(shì)负(fù)责(zé)人(rén)

于(yú)乃(nǎi)功(gōng)北(běi)京(jīng)工(gōng)业(yè)大(dà)学(xué)机(jī)器(qì)人(rén)工(gōng)程(chéng)专(zhuān)业(yè)负(fù)责人，北京人工智能研究院机器人研究中心主任，博士生导师