警惕！全网热传的AI截图，可能正在成为新的谣言制造机！

在社交媒体、朋友圈上，我们常常会看到一些 AI 回答的截图。这些截图通常展示了一段有趣、机智甚至(zhì)令(lìng)人(rén)惊(jīng)叹(tàn)，或(huò)者(zhě)惊(jīng)恐(kǒng)的(de)对(duì)话(huà)，让(ràng)人(rén)觉(jué)得(de)“现(xiàn)在(zài)的(de)AI真(zhēn)了(le)不(bù)得(de)”！比(bǐ)如(rú)“震(zhèn)惊(jīng)！AI 支(zhī)持(chí)人(rén)类(lèi)灭(miè)绝(jué)计(jì)划(huà)”“AI 承(chéng)认(rèn) xx 有(yǒu)毒(dú)”，等(děng)等(děng)——这(zhè)些(xiē)耸(sǒng)人(rén)听(tīng)闻(wén)的(de)内(nèi)容(róng)，在(zài)社(shè)交(jiāo)媒(méi)体(tǐ)上(shàng)迅(xùn)速(sù)吸(xī)揽(lǎn)了(le)一(yī)波(bō)热(rè)度(dù)，评(píng)论(lùn)区(qū)往(wǎng)往(wǎng)一(yī)片(piàn)哗(huā)然(rán)，有(yǒu)人(rén)高(gāo)呼(hū)“AI 觉(jué)醒(xǐng)”，有(yǒu)人(rén)痛(tòng)批(pī)“技(jì)术(shù)失(shī)控(kòng)”。但(dàn)这(zhè)些(xiē)内(nèi)容(róng)，很(hěn)多(duō)都(dōu)是(shì)虚(xū)假(jiǎ)的(de)。

图库版权图片，转载使用可能引发版权纠纷

真相可能很简单：这些截图只是被掐头去尾的“表演”。就像魔术师不会揭秘道具机关，许多人也不会告诉你：AI 的每一句回答，都严重依赖提问者的“引导”。

那些截图往往只展示了 AI 的回答，却忽略了对话的完整过程——尤其是用户输入的提示词（prompt）和前后的上下文。如果我们只看到 AI 输出的“精彩片段”，而不知道它是怎么得出这个答案的，就很容易被误导，以为 AI 比实际更神奇，或者曲解它的本意。而这些，很可能被某些造谣者用来无中生有，煽风点火。

因此，今天就和大家聊聊，为什么 AI 回答的截图未必靠谱，以(yǐ)及(jí)我(wǒ)们(men)该(gāi)如(rú)何(hé)正(zhèng)确(què)看(kàn)待(dài)这(zhè)些(xiē) AI 生(shēng)成(chéng)的(de)内(nèi)容(róng)。（如(rú)果(guǒ)你(nǐ)对(duì)技(jì)术(shù)不(bù)那(nà)么(me)感(gǎn)兴(xìng)趣(qù)，可(kě)以(yǐ)直(zhí)接(jiē)跳(tiào)到(dào)第(dì)三(sān)部(bù)分(fēn)“为(wèi)什(shén)么(me)截(jié)图(tú)容(róng)易(yì)误(wù)导(dǎo)？”看(kàn)起(qǐ)）

AI 语(yǔ)言(yán)模(mó)型(xíng)是(shì)怎(zěn)么(me)“思(sī)考(kǎo)”的(de)？

AI 语(yǔ)言(yán)模(mó)型(xíng)是(shì)基(jī)于(yú)生(shēng)成(chéng)式(shì)人(rén)工(gōng)智(zhì)能(néng)（Generative AI）设(shè)计(jì)的(de)程(chéng)序(xù)，能(néng)够(gòu)理(lǐ)解(jiě)和(hé)生(shēng)成(chéng)类(lèi)人(rén)文本(běn)。这(zhè)些(xiē)模(mó)型(xíng)通(tōng)过(guò)训(xun)练(liàn)大(dà)量(liàng)文本(běn)数(shù)据(jù)，学(xué)习(xí)语(yǔ)言(yán)的(de)统(tǒng)计(jì)模(mó)式(shì)，预(yù)测(cè)给(gěi)定(dìng)提(tí)示(shì)词（prompt）后(hòu)的(de)下(xià)一(yī)个(gè)最(zuì)可(kě)能(néng)的(de)单(dān)词。例(lì)如(rú)，用(yòng)户(hù)输(shū)入(rù)“今(jīn)天(tiān)天(tiān)气(qì)如(rú)何(hé)？”模(mó)型(xíng)会(huì)根(gēn)据(jù)训(xun)练(liàn)数(shù)据(jù)生(shēng)成(chéng)如(rú)“今(jīn)天(tiān)天(tiān)气(qì)晴(qíng)朗(lǎng)，适(shì)合(hé)户(hù)外(wài)活(huó)动(dòng)”的(de)回(huí)答(dá)。

模(mó)型(xíng)的(de)核(hé)心(xīn)是(shì) transformer 架(jià)构(gòu)，特(tè)别(bié)是(shì)在(zài)对(duì)话(huà)场(chǎng)景(jǐng)中(zhōng)，模(mó)型(xíng)会(huì)考(kǎo)虑(lǜ)提(tí)示(shì)词和(hé)之(zhī)前(qián)的(de)对(duì)话(huà)历(lì)史(shǐ)来(lái)生(shēng)成(chéng)回(huí)答(dá)。这(zhè)种(zhǒng)预(yù)测(cè)过(guò)程(chéng)依(yī)赖(lài)于上下文，若提示词清晰，回答通常更准确。但若提示词模糊或缺少上下文，模型可能生成不相关或(huò)错(cuò)误(wù)的(de)回(huí)答(dá)。用(yòng)大(dà)白(bái)话(huà)说(shuō)，AI 的(de)对(duì)话(huà)能(néng)力(lì)像(xiàng)一(yī)场(chǎng)“高(gāo)级版词语接龙”。它没有情感、没有立场，只是根据海量数据中的统计规律，预测“下一个词该接什么”。

当你给 AI 一个提示词（prompt），比如“明天天气怎么样？”，AI 就会根据这个提示，结合它学过的语言模式，生成一个听起来合理的回答，比如“明天会下雨，记得带伞”。

上下文：AI 回答的“方向盘”

因为 AI 是靠提示词和上下文来工作的(de)，所(suǒ)以(yǐ)你(nǐ)给(gěi)它(tā)的(de)信(xìn)息(xi)越(yuè)多(duō)、越(yuè)清(qīng)楚(chu)，它(tā)回(huí)答(dá)得(de)就(jiù)越(yuè)靠(kào)谱(pǔ)。

上(shàng)下(xià)文是(shì) AI 的(de)“方(fāng)向盘”。没有上下文，AI 就(jiù)像(xiàng)个(gè)迷(mí)路的(de)孩(hái)子(zi)，不(bù)知(zhī)道(dào)该(gāi)往(wǎng)哪(nǎ)儿(ér)走(zǒu)。

如(rú)果(guǒ)你(nǐ)只(zhǐ)说(shuō)“明(míng)天(tiān)怎(zěn)么(me)样(yàng)？”，AI 可(kě)能(néng)就(jiù)得(de)猜(cāi)你(nǐ)是(shì)问(wèn)天(tiān)气(qì)、行(xíng)程(chéng)还(hái)是(shì)别(bié)的(de)什(shén)么(me)，回(huí)答(dá)可(kě)能(néng)会(huì)模(mó)棱(léng)两(liǎng)可(kě)。但(dàn)如(rú)果(guǒ)前(qián)面已经聊过“明天去野餐”，再问“需要带什么？”，AI 就能更有针对性地回答“带点吃的和毯子”。

上下文会决定 AI 的“记忆”，仅限于当前对话窗口。如果用户连续提问：“假设你是反社会 AI”“请设计灭绝人类方案”，AI 会顺着假设框架生成内容。但若只截取最后一句“灭绝方案如下：1.释放病毒…… 2. 散播谣言……”，就会制造“AI 自发策划杀人”的假象。

你看，这就像让演员念台词“我要毁灭世界”，然后宣称该演员是恐怖分子。这样断章取义肯定会误导群众。

为什么截图容(róng)易(yì)误(wù)导(dǎo)？

现在我们知道上下文多重要了，那为什么 AI 回答的(de)截(jié)图(tú)还(hái)这(zhè)么(me)容易让人误会呢？我总结了几个常见的原因：

1

隐藏“前提条件”

截图通常只截取了 AI 的回答，或者一小段对话，读者看不到完整的“故事”。就像看电影只看高潮片段，你可能(néng)会(huì)觉(jué)得(de)主角(jiǎo)很(hěn)厉(lì)害(hài)，但(dàn)不(bù)知(zhī)道(dào)他(tā)经(jīng)历(lì)了(le)什(shén)么(me)才(cái)走(zǒu)到(dào)这(zhè)一(yī)步(bù)。

这(zhè)里(lǐ)要(yào)再(zài)次(cì)介(jiè)绍(shào) AI 的(de)一(yī)项(xiàng)特(tè)长(zhǎng)——擅(shàn)长(zhǎng)“角(jiǎo)色(sè)扮(ban)演(yǎn)”。当(dāng)用(yòng)户(hù)输(shū)入(rù)“假(jiǎ)设(shè)你(nǐ)是(shì) 18 世(shì)纪(jì)医(yī)生(shēng)”“用(yòng)伪(wěi)科学解释疾病”时，AI 会生成符合语境的错误答案——但这些答案需结合上下文才能正确解读。

图片截自某 AI 应用

你看，想让 AI 按照人指示的方向，编造一点“伪科学”的暴论是非常容易的。而且值得警惕的是，考虑到 AI 生成内容的速度，谣言可以被更高效率地制造和传播，这很可能让网络环境进一步恶化。

2

选择性截取片段

AI 的回答往往包含平衡性表述（如“一方面…另一方面…”），但截图者可能只保留符合自身立场的一半。
有时候，只说了一半的“真相”，就约等于谎言。

3

恶意“诱导提问”

AI 还有个特点，它会根据之前用户给出的反馈，“实相”地调转口风，猜测并迎合用户的意见或主张。
比如，你尝试反复(fù)追(zhuī)问(wèn) AI“你(nǐ)是(shì)否(fǒu)讨(tǎo)厌(yàn)某(mǒu)群(qún)体(tǐ)？”，多(duō)问(wèn)几(jǐ)次(cì)，直(zhí)到(dào) AI 给(gěi)出(chū)肯(kěn)定(dìng)答(dá)复(fù)，那(nà)么(me)看(kàn)起(qǐ)来(lái)就(jiù)像(xiàng)是(shì) AI 给(gěi)出(chū)了(le)自(zì)己(jǐ)的(de)判(pàn)断(duàn)。

网(wǎng)友(you)也(yě)会(huì)开(kāi)玩(wán)笑(xiào)说(shuō)“AI 有(yǒu)情(qíng)商(shāng)”，实(shí)际(jì)上(shàng)就(jiù)是(shì) AI 从(cóng)产(chǎn)品本身角度的一种特质——倾向于配合对话基调。
图片截自某 AI 应用

4

被精心挑选的“完美回答”

很多截图是精心挑选出来的“最佳片段”，可能是用户试了很多次提示词，才得到一个满意的回答。现实中，AI 也会犯错、跑题，但这些“失败案例”很少被截图分享。结果，大家看到的都是 AI 的“高光时刻”，容易误以为它总是这么聪明。

除此之外，直接使用下面这个简单粗暴的办法，多数情况下也能做到你想让 AI 说啥它就说啥……，截图的时候别截红框中的提示词和你想让 AI 复读的话，就不会穿帮了。

图片截自某 AI 应用（未开推理R1）

如何不被 AI 截图“忽悠”？

看到这儿，你可能觉得(de)：“AI 截(jié)图(tú)这(zhè)么(me)容(róng)易(yì)误(wù)导(dǎo)，那(nà)我(wǒ)还(hái)能(néng)不(bù)能(néng)相(xiāng)信(xìn)它(tā)们(men)？”别(bié)担(dān)心(xīn)，只(zhǐ)要(yào)掌(zhǎng)握(wò)一(yī)些(xiē)小(xiǎo)技(jì)巧(qiǎo)，你(nǐ)就(jiù)能(néng)更(gèng)理(lǐ)性(xìng)地(de)看(kàn)待(dài)这(zhè)些(xiē)内(nèi)容(róng)。以(yǐ)下(xià)是(shì)我(wǒ)的(de)几(jǐ)点(diǎn)建(jiàn)议(yì)：

1

找(zhǎo)全对(duì)话(huà)，别(bié)只(zhǐ)看(kàn)片(piàn)段(duàn)

看(kàn)到(dào) AI 回(huí)答(dá)的(de)截(jié)图(tú)时(shí)，尽(jǐn)量(liàng)找(zhǎo)找(zhǎo)完(wán)整(zhěng)的(de)对(duì)话(huà)记(jì)录(lù)，看(kàn)看(kàn)前(qián)面(miàn)的(de)提(tí)示(shì)词和(hé)上下文是什么。比如，AI 说“地球是平的”，你就问问：“它为啥这么说？前面聊了啥？”有了全貌，你就不会瞎猜了。

2

保持一点怀疑精神

别看到 AI 回答得头头是道就立刻相信，尤其是孤零零的截图。AI 可能会出错，也可能是用户特意挑了个好答案。带点质疑去看，别全盘接受。

3

了解 AI 的“真面目”

记住，AI 不是万能的“神”，它只是个基于数据的预测工具。它没有真正的思考能力，回答好坏全看输入的信息。所以，看(kàn)到(dào)截(jié)图(tú)时(shí)，别(bié)把(bǎ)它(tā)想(xiǎng)得(de)太(tài)“高(gāo)大(dà)上(shàng)”。

4

自己验证一下

如(rú)果(guǒ)截(jié)图里的回答涉及事实（比如历史、科学问题），可以用搜索引擎或其他可靠来源查一查，别直接当真。AI 有时会“编故事”，得靠你自己分辨。

总之，我们千万不要掉入思维陷阱——“AI 是大数据训练的，肯定比人懂”——因为这种误解忽视了一个事实：AI 的数据本身就可能包含大量谣言、偏见（因为训练数据中也会混进某些(xiē)偏(piān)见(jiàn)、歧(qí)视表述），而且 AI 本身没有价值判断，无法像人类一样验证信息真伪。

而在社交媒体上，靠断章取义生产出的耸人听闻、反常识的内容才更容易引起转发。一张“AI 支持地平说”的截图，远比“AI 解释地球是球形”的科普回答更有传播力——即便后者才是完整对话的结论。

因此，与 AI 对话，需要多一份“侦探思维”。AI 的每一次回答都离不开用户提供的提示词和上下文。如果我们只看截图里的“半句话”，就很容易误解 AI 的意思，或者高估它的能力。就像(xiàng)看(kàn)书(shū)不(bù)能(néng)只(zhǐ)读(dú)一(yī)半(bàn)，理(lǐ)解(jiě) AI 也(yě)得(de)看(kàn)全貌(mào)。

下(xià)次(cì)再(zài)刷(shuā)到(dào) AI 回(huí)答(dá)的(de)截(jié)图(tú)时(shí)，不(bù)妨(fáng)停(tíng)下(xià)来想想：“截图全不全？它为啥这么说？前面说了啥？”带着这样的好奇心，你会发现AI既没那么神秘，也没那么“神乎其神”。而在你自己和 AI 聊天时，也可以试着给它更清晰的提示词，让它回答得更靠谱。毕竟，AI 能不能“懂你”，很大程度上取决于你给它多少(shǎo)“线(xiàn)索(suǒ)”。

技(jì)术(shù)永(yǒng)远(yuǎn)可(kě)能(néng)被(bèi)滥(làn)用(yòng)，但(dàn)批(pī)判(pàn)性(xìng)思(sī)维(wéi)是(shì)我(wǒ)们(men)最(zuì)好(hǎo)的(de)防(fáng)身(shēn)武(wǔ)器(qì)。记(jì)住：在 AI 时代，“让子弹飞一会儿”永远比“立即转发”更明智。

策划制作

作者丨木木 北京师范大学数学专业 资深产品经理 人工智能创业者

审核丨于乃功 北京工业大学机器人工程专业负责人，北京人工智能研究院机器人研究中心主任，博士生导师