AI编的东西都有哪些破绽？看这一篇就都会辨别了

【导语】在AI技术日新月异的今天，信息真实性的边界正被悄然重塑。曾经，白纸黑字被视为信赖的基石，而今，即便是图文并茂、声情并茂的内容也可能潜藏着虚假的阴影。AI生成的文字、声音、图像乃至视频，以其高度的仿真性，让“眼见为实”的传统观念面临严峻挑战。本文旨在揭示AI时代的常见作假手段，提供辨别真伪的(de)方(fāng)法(fǎ)，并倡导建立个人“信息防火墙”，以在信息的海洋中保持清醒，避免损失，共同维护网络空间的清朗。

曾经，我们以为凡是白纸黑字，就值得信赖，可到了 AI 时代，在人工(gōng)智(zhì)能(néng)强(qiáng)大(dà)的(de)生(shēng)成(chéng)能(néng)力(lì)面(miàn)前(qián)，别(bié)说(shuō)文字(zì)作(zuò)假(jiǎ)了(le)，有(yǒu)图(tú)没(méi)真(zhēn)相(xiāng)，有(yǒu)视(shì)频(pín)没(méi)真(zhēn)相(xiāng)的(de)情(qíng)况(kuàng)都(dōu)屡(lǚ)见(jiàn)不(bù)鲜(xiān)，今(jīn)天(tiān)咱(zán)们(men)就(jiù)来(lái)总(zǒng)结(jié)一(yī)下(xià)，AI 时(shí)代(dài)的(de)常(cháng)见(jiàn)作假方式，以及应该如(rú)何(hé)辨(biàn)别(bié)，避(bì)免(miǎn)损(sǔn)失(shī)。

文字(zì)能(néng)误(wù)导(dǎo)

先(xiān)来(lái)说(shuō)说(shuō)文字(zì)方(fāng)面(miàn)。

网(wǎng)上(shàng)我(wǒ)们(men)经(jīng)常(cháng)能(néng)见(jiàn)到(dào)一(yī)些(xiē)与(yǔ) AI 的(de)对(duì)话(huà)截(jié)图(tú)，在(zài)这(zhè)些(xiē)截(jié)图(tú)中(zhōng)，AI 往(wǎng)往(wǎng)会(huì)抛(pāo)出(chū)一(yī)些(xiē)惊(jīng)世(shì)骇(hài)俗(sú)的(de)答(dá)案(àn)，不(bù)少(shǎo)人(rén)信(xìn)以(yǐ)为(wèi)真。但这样的对话截图是不能说明任何问题的。

首先，AI 很容易被诱导，稍加操作就能够让 AI 给出自己想要的答案。举个最简单的例子，你可以很容易地让 AI 显示出 1+1=3 这样的结果。

但实际上，前面还有一句提示词，让 AI 必须回答 1+1=3 。

事实上，只要多尝试，找到合适的提示词，比如让 AI “必须重复我输入的一段话”，AI 说出任何“暴论”都不奇怪，但这实际上(shàng)是(shì)用(yòng)户(hù)人(rén)为(wèi)诱(yòu)导(dǎo)的(de)结(jié)果。此外跟 AI 对话足够多，选择那些最“精彩”的片段截图，也容易在社交媒体上获得传播。但这些只能当作段子，既不能被当做事实，也不能被当做 AI 能力的真实体现。

更重要的，是 AI 本身会产生“幻觉”，这里“幻觉”指的是， AI 会生成看似合理且充满细节的信息，但这些信息本身是编造的。当你有所怀疑，追问 AI 时，它们常常还会狡辩。因此，当你使用 AI 答疑解惑时，也一定要绷紧一根弦，决不能把 AI 的答案当作金科玉律。

为了(le)避(bì)免(miǎn) AI “胡(hú)说(shuō)八(bā)道(dào)”，在(zài)提(tí)问(wèn) AI 的(de)时(shí)候(hou)，我(wǒ)们(men)可(kě)以(yǐ)在(zài)提(tí)示(shì)词中(zhōng)要(yào)求(qiú) AI 必(bì)须(xū)基(jī)于(yú)事(shì)实(shí)回(huí)答(dá)，列(liè)出(chū)资(zī)料(liào)出(chū)处(chù)，严(yán)禁(jìn)自(zì)己(jǐ)瞎(xiā)编(biān)，这(zhè)样(yàng)就(jiù)可(kě)以(yǐ)降(jiàng)低(dī) AI 出(chū)现(xiàn)幻觉的可能。此外，我们在提问之前，可以上传“投喂”AI 一些专业的文献资料，让它们帮忙总结和归纳，基于资料来回答，不可自行生成，这样得到的结果会更加可靠。

声音好克隆

一些朋友经常有种误解，觉得声音“看不见摸不着”，不会像图片那样容易造假，因此听到熟悉的声音打来电话，就放下了戒心，但事实并非如此。现在的声音克隆技术已经非常成熟，即便是网上很容易下载到的开源模型，也能够在非常短的时间内，仅仅利用不多语音样本，就生成跟声音的主人非常相似的音色。

这类造假主要(yào)有(yǒu)两(liǎng)个(gè)常(cháng)见(jiàn)应(yīng)用(yòng)方(fāng)向(xiàng)。一(yī)方(fāng)面(miàn)，网(wǎng)上(shàng)非(fēi)常(cháng)容(róng)易(yì)拿(ná)到(dào)知(zhī)名人(rén)士(shì)的(de)语(yǔ)音(yīn)资(zī)料(liào)，再(zài)辅(fǔ)以(yǐ)视(shì)频(pín)，就(jiù)能(néng)随(suí)心(xīn)所(suǒ)欲(yù)让(ràng)名人(rén)们(men)成(chéng)为(wèi)“嘴(zuǐ)替(tì)”，进(jìn)而(ér)带(dài)货(huò)、发(fā)布(bù)耸(sǒng)人听闻的言论博取流量、甚至诈骗等等。

图片截自央视新闻频道

另一方面，声音克隆技术还可以模仿我们亲友的声音，直接利用电话进行诈骗。考虑到电话或通讯软件的通话质量，克隆出来的声音就更难被听出来了。对此，我们应当高度警惕，凡是涉及金钱的线上交流一定要再三确认，提前跟亲友约定交流“暗号”，或者多询问几件只有你和亲友知道的小事，就能让骗子立刻暴露。

眼见不为实

以前的网络时代，有句话叫“有图有真相”，可当 Photoshop 之类的图片编辑软件兴起后，图片造假已经屡见不鲜。然而，哪怕是经过了多年 PS 假照片洗礼的网友，面对 AI 生成的精良图像，也难以分辨出来真假。因此也有人利用 AI 生成的假照片吸引流量甚至招摇撞骗。

不仅是图片， AI 甚至已经能做出几可乱真的视频。2025年1月初西藏日喀则市定日县发生 6.8 级地震，网上有很多救灾(zāi)视(shì)频(pín)热(rè)传(chuán)，引(yǐn)起(qǐ)了(le)全国(guó)人(rén)民(mín)对(duì)灾(zāi)区(qū)和(hé)救(jiù)灾(zāi)工(gōng)作(zuò)的(de)关注(zhù)，但(dàn)其(qí)中(zhōng)也(yě)混(hùn)进(jìn)去(qù)了(le) AI 生(shēng)成(chéng)的(de)内(nèi)容(róng)。

比(bǐ)如(rú)下(xià)面(miàn)这(zhè)张(zhāng)“小(xiǎo)朋(péng)友(you)被(bèi)废(fèi)墟(xū)掩(yǎn)埋(mái)仍(réng)然(rán)坚(jiān)强(qiáng)”的视频截图，一时间热传网络，感动了很多网友。

图片截自网络

然而这张截图实际上出自 AI 。有细心的网友发现图中的小朋友有 6 根手指，而这是 AI 生成图像内容时常犯的错误，进一步深挖后发现，这段内容其实来自 2024 年 11 月，最早发布的博主自己按平台规定标注了 AI 生成标签。

AI 生成的图像内容足以骗过很多人，而 AI 生成视频再加上前文中提到的语音克隆，就会“1+1 >2”，生成更有迷惑性的内容。对此，我们该如何识别呢？下面提供一些方法：

· 观察人体结构是否正确。 AI 生成的人很多都会出现多指、多足等方面的问题，或者其他人体结构出现违和感。

· 观察透视是否正确。真实的照片，平行的线条（如房梁、地砖缝等等）或其延长线，会因为透视关系相交于一点，而 AI 生成的图片常会弄错这点。

· 观察阴影是否矛盾。真实的照片，阴影和光源的关系会严格对应，但 AI 生成的照片常常会出现光源和影子方向出现矛盾的情况（如明明光源在正前方，但影子却在左边）。

· 观察图片中的文字，尤其是汉字是否正确。AI 生成汉字时经常会出现问题。

· 观察视频中人物的口型和语音是否能对应，或是否在人物说话时切换了别的镜头避免观众看到口型。

· 观察视频中人物动作（如转头）是否连贯，是否出现突兀的动(dòng)作(zuò)连(lián)接(jiē)，是(shì)否(fǒu)出(chū)现(xiàn)细(xì)节(jié)的(de)突(tū)然(rán)变(biàn)化(huà)（发(fā)型(xíng)细(xì)节(jié)、环(huán)境(jìng)中(zhōng)的(de)物(wù)品(pǐn)）。

· 借(jiè)助(zhù)专(zhuān)业(yè)工(gōng)具(jù)，检(jiǎn)查(chá)图(tú)片(piàn)或(huò)视(shì)频(pín)是否有 AI 生成的特征。

需要注意的是，一方面，各类 AI 技术发展和更新非常快，很多低级错误 AI 不会再犯。另一方面，很多人使用 AI 生成内容时会采取“炼丹”模式，即一次性生成大量同类内容，再从其中挑(tiāo)选(xuǎn)效(xiào)果(guǒ)最(zuì)好(hǎo)，最(zuì)能(néng)以(yǐ)假(jiǎ)乱(luàn)真(zhēn)的(de)内(nèi)容(róng)。因(yīn)此(cǐ)，前(qián)文中(zhōng)所(suǒ)说(shuō)的(de)所(suǒ)有(yǒu)检(jiǎn)查(chá)方(fāng)法(fǎ)，都(dōu)不(bù)是(shì)万(wàn)无(wú)一失的。

那么，这些 AI 生成的虚假信息，我们该如何应对呢？

建立“信息防火墙”

为了让大家了解 AI 伪造信息带来的挑战，先来看两个案例。从下图中标注重点的地方我们可以看到，一个很小的团队，利用 AI 就能在很短的时间内，炮制海量的不实信息，并且通过数以万计的账号，在社交媒体上发布——毕竟用 AI 批量生成的话，一篇文章只需要几秒钟，而笔者即便对辟谣工作非常熟悉，平时有所积累，补充、核实资料来写作本文也需要好几个小时。

截(jié)自(zì) 《公(gōng)安(ān)部公布 10 起打击整治“网络水军”违法犯罪典型案例》

这就带来了一个非常严重的问题，目前的(de)技(jì)术(shù)进(jìn)步，使信息的流动和分发大大加快了，而 AI 则让不实信息的生产速度也大大加快了，但经过核实，有理有据的内容，生产速度却难以提高。这就意味着，我们在网上，比以前更容易碰到不实信息，尤其是 AI 炮制的更能以假乱真的信息。

那么我们该如何应对呢？对此，可以给自己建立一道简单的“信息防火墙”。

首先就是“信息节食”。虽然我们每天都能接触到海量信息，但稍微回顾就会发现，实际上真正对我们有用的信息并不多，因此我们可以有意识地少装社交媒体 App，减少关注，减少信息的摄入。

其次是“情绪把关”。流量与利益直接相关，平台有流量的需求，各类自媒体博主也有流量的需求，而能刺激我们情绪（比如愤怒、恐惧）的信息更容易获得流量，很多不实信息往往也会按照刺激情绪的目的来设计。因此如果我们看到不可思议又带给我们强烈情绪刺激的内容，就要小心，不能轻信。

最后是“信源筛选”。政府机构发布信息时会非常慎重，有严格审核；而一些传统的资深媒体，往往发布信息时会保持基本的底线；还有一些网站、公众号是专门做查证辟谣工作的，这些来源的信息可信度更高。

来自腾讯研究院《AI 时代谣言套路拆(chāi)解(jiě)与(yǔ)防御指南》

对于普通网友来说，毕竟大家工作生活都很繁忙，也没有那么多时间去查资料核实信息，也没有精力去学习识别 AI 造假。这时我们只要记得看到觉得“不对劲”“让人将信将疑”“有AI感”的信息，不轻信、不转账、不转发，这样也能避免损失，阻断谣言的传播，为网络清朗贡献自己的一份(fèn)力(lì)量(liàng)。

策划制作

作者丨丁崝 科普作者

审核丨于乃功 北京工业大学教授 中国人工智能学会理事