AI有多会一本正经地瞎编？超出你的想象！

你是不是也遇到过这样的情况：问AI一个问题，它给了你一个特别详细、丰富，看上去好有逻辑的答案。但当我们去核实时，却发现这些信息完全是虚构的？

这就是著名的“AI幻觉”现象。

图源：河森堡新浪微博

为什么会出现AI幻觉呢？今天就让我们一起来揭开这个谜题。

为什么会出现AI幻觉？

AI幻觉指的是AI会生成看似合理但实际确实错误的信息，最常见的表现就是会编造一些不存在的事实或者细节。

就像在考试时遇到不会的题目，我们会试图用已知的(de)知(zhī)识(shi)去(qù)推(tuī)测(cè)答(dá)案(àn)一(yī)样(yàng)。AI在(zài)遇(yù)到(dào)信(xìn)息(xi)缺(quē)失(shī)或(huò)不(bù)确(què)定(dìng)的(de)情(qíng)况(kuàng)时(shí)，会(huì)基(jī)于(yú)自(zì)己(jǐ)的(de)“经(jīng)验(yàn)”（训(xun)练(liàn)数(shù)据(jù)）进(jìn)行(xíng)填(tián)补(bǔ)和推理。

这不是因为它想要欺骗我们，而是因为它在试图用自己理解的模式来完成这个任务。

1

基于统计关系的预测

因为AI（尤其是像ChatGPT这样的语言模型）通过大量的训练数据学习文字之间的统计关系。它的核心目标是根据上下文预测最可能出现的下一个词，并不是对问题或内容进行真正的理解。所以 AI本质上是通过概率最大化来生成内容，而不是通过逻辑推理来生成内容的。

简单来说，AI就像是一个博览群书的智者，通过学习海量的文本和资料来获取知识。但是它并不是真正理解这些知识，而是通过找到文字之间的统计关系和模式来“预测”下一个最合适的词。即 AI 是根据之前学到的大量例子，来猜测接下来最有可能出现的词。

不过有时候，模型也会“猜错”。如果前面出现一点偏差，后面的内容就会像滚雪球一样越滚越大。这就是为什么AI有时会从一个小错误开始，最后编织出一个完全虚构的故事。

2

训练数据的局限性

由于AI并没有真实世界的体验，它的所有“认知”都来自训练数据。可是训练数据不可能包含世界上所有的信息，有时候甚至还会包含错误信息。这就像是一个人只能根据自己读过的书来回答问题，如果书里有错误信息，或者(zhě)某(mǒu)些(xiē)领(lǐng)域的(de)知(zhī)识(shi)缺(quē)失(shī)，就(jiù)容(róng)易(yì)产(chǎn)生(shēng)错(cuò)误(wù)的(de)判(pàn)断(duàn)。举(jǔ)个(gè)例(lì)子(zi)：早(zǎo)期(qī)AI幻(huàn)觉(jué)较(jiào)大(dà)的(de)时(shí)候(hou)，可(kě)能(néng)会(huì)出(chū)现(xiàn)AI学(xué)过“北京是中国的首都”和“巴黎有埃菲尔铁塔”这两个知识点。当我们问它“北京有什么著名建筑”时，它可能会把这些知识错误地混合在一起，说“北京有埃菲尔铁塔”。

3

过拟合问题

因为大模型的训练参数量非常庞大，大模型会在训练数据上产生“过拟合”的问题。即因为记住了太多错误或者无关紧要的东西，从而让 AI对训练数据中的噪声过于敏感，最终导致幻觉产生。

4

有限的上下文窗口

受限于技术原因，虽然现在大模型的上下文窗口越来越大（比如可以处(chù)理(lǐ)64k或(huò)128k个(gè)tokens），但(dàn)它(tā)们(men)仍(réng)然(rán)是(shì)在(zài)一(yī)个(gè)有(yǒu)限(xiàn)的(de)范(fàn)围(wéi)内(nèi)理(lǐ)解(jiě)文本(běn)。这(zhè)就(jiù)像(xiàng)是(shì)隔(gé)着(zhe)一(yī)个(gè)小(xiǎo)窗(chuāng)口(kǒu)看(kàn)书(shū)，看(kàn)不(bù)到(dào)整(zhěng)本(běn)书(shū)的(de)内(nèi)容(róng)，容(róng)易(yì)产(chǎn)生理解偏差。

5

生成流畅回答的设计

现在很多大模型被设计成要给出流畅的回答，当它对某个问题不太确定时，与其说“我不知道”，它更倾向于基于已有知识编造看起来合理的答案。上面的种种情况叠加在一起，造成了现在非常严重的AI幻觉问题。

图库版权图片，转载使用可能引发版权纠纷

如何才能降低AI幻觉？

AI看起来很方便，但 AI 一本正经的“胡说八道”有时候真的让人非常头疼，给的信息经常需要反复核实，有时反而不如直接上网搜索来得实在。那么，如何应对AI幻觉呢？我们总结了下面这些方法帮助大家。

1

优化提问

想要获得准确答案，提问方式很关键。与AI交流也需要明确和具体，避免模糊或开放性的问题，提问越具体、清晰，AI的回答越准确。同时，我们在提问的时候要提供足够多的上(shàng)下(xià)文或(huò)背(bèi)景(jǐng)信(xìn)息(xi)，这(zhè)样(yàng)也(yě)可(kě)以(yǐ)减(jiǎn)少(shǎo)AI胡(hú)乱(luàn)推(tuī)测(cè)的(de)可(kě)能(néng)性(xìng)。总(zǒng)结(jié)成(chéng)提(tí)示(shì)词技(jì)巧(qiǎo)就(jiù)是(shì)下(xià)面(miàn)四(sì)种(zhǒng)问(wèn)法(fǎ)：

1.设(shè)定(dìng)边(biān)界(jiè)：“请(qǐng)严(yán)格(gé)限(xiàn)定(dìng)在(zài)2022年(nián)《自(zì)然(rán)》期(qī)刊(kān)发(fā)表(biǎo)的(de)研(yán)究(jiū)范围内”；

示例：“介绍ChatGPT的(de)发(fā)展(zhǎn)历(lì)程(chéng)”→“请(qǐng)仅(jǐn)基(jī)于(yú)OpenAI官(guān)方(fāng)2022-2023年(nián)的(de)公(gōng)开(kāi)文档(dàng)，介(jiè)绍(shào)ChatGPT的(de)发(fā)展(zhǎn)历(lì)程(chéng)”

2.标(biāo)注(zhù)不(bù)确(què)定(dìng)：“对(duì)于(yú)模(mó)糊(hu)信(xìn)息(xi)，需(xū)要(yào)标(biāo)注(zhù)‘此(cǐ)处(chù)为(wèi)推(tuī)测(cè)内(nèi)容(róng)’”；

示(shì)例(lì)：“分(fēn)析特斯拉2025年的市场份额”→“分析特斯拉2025年的市场份额，对于非官方数据或预测性内容，请标注[推测内容]”

3.步骤拆解：“第一步列举确定的事实依据，第二步展开详细分析”；

示例：“评估人工智能对就业的影响”→“请分两步评估AI对就业的影响：

1)先列出目前已发生的具体影响案例；

2)基于这些案例进行未来趋势分析”。

4.明确约束：明确告诉AI要基于已有事实回答，不要进行推测。

示例：“预测2024年房地产市场走势”→“请仅基于2023年的实际房地产数据和已出台的相关政策进行分析，不要加入任何推测性内容”。

2

分批输出

因为AI内容是根据概率来进行生成的，一次性生成的内容越多，出现AI幻觉的概率就越大，我们可以主动限制(zhì)它(tā)的(de)输(shū)出(chū)数(shù)量(liàng)。比(bǐ)如(rú)：如(rú)果(guǒ)我(wǒ)要(yào)写(xiě)一(yī)篇(piān)长(zhǎng)文章(zhāng)，就(jiù)会(huì)这(zhè)么(me)跟(gēn)AI说(shuō)：“咱(zán)们(men)一(yī)段(duàn)一(yī)段(duàn)来(lái)写(xiě)，先(xiān)把(bǎ)开(kāi)头(tóu)写(xiě)好(hǎo)。等(děng)这(zhè)部(bù)分(fēn)满(mǎn)意(yì)了(le)，再继续写下一段。”这样不仅内容更准确，也更容易把控生成内容的质量。

3

交叉验证

想要提高AI回答的可靠性，还有一个实用的方法是采用“多模型交叉验证”。使用的一个AI聚合平台：可以让多个AI模型同时回答同一个问题。当遇到需要严谨答案的问题时，就会启动这个功能，让不同的大模型一起参与讨论，通过对比它们的答案来获得更全面的认识。

点击可放大，图片来源：作者提供

再比如纳米AI搜索平台的“多模型协作”功能，它能让不同的AI模型各司其职，形成一个高效的协作团队。让擅(shàn)长(zhǎng)推(tuī)理(lǐ)的(de)DeepSeekR1负(fù)责(zé)分(fēn)析(xī)规(guī)划，再由通义千问进行纠错补充，最后交给豆包AI来梳理总结。这种“专家组”式的协作模式，不仅能提升内容的可信度，还能带来更加全面和深入的见解。

图源：作者提供

4

RAG技术

AI是一个聪明但健忘的人，为了让他表现更靠谱，我们可以给他配一个超级百科全书，他可以随时查阅里面的内容来(lái)回(huí)答(dá)问(wèn)题(tí)。这(zhè)本(běn)“百(bǎi)科(kē)全书(shū)”就(jiù)是(shì)RAG的(de)核(hé)心(xīn)，它(tā)让(ràng)AI在(zài)回(huí)答(dá)问(wèn)题(tí)之(zhī)前(qián)，先(xiān)从(cóng)可(kě)靠(kào)的(de)资(zī)料(liào)中(zhōng)找(zhǎo)到(dào)相(xiāng)关信(xìn)息(xi)，再(zài)根(gēn)据(jù)这(zhè)些(xiē)信(xìn)息(xi)生(shēng)成(chéng)答(dá)案(àn)。这(zhè)样(yàng)一(yī)来(lái)，AI就(jiù)不(bù)容(róng)易(yì)“胡(hú)说(shuō)八(bā)道”了。目前RAG技术多用在医疗、法律、金融等专业领域，通过构建知识库来提升回答的准确性。当然实际使用中像医疗、法律、金融这样的高风险领域，AI生成的内容还是必须要经过专业人士的审查的。

5

巧用AI幻觉

最后再说一个AI幻觉的好处。

很多时候AI幻觉也是天马行空的创意火花！就像一个异想天开的艺术家，不受常规(guī)思(sī)维(wéi)的(de)束缚，能蹦出令人惊喜的点子。

看看(kàn)DeepSeek就(jiù)知(zhī)道(dào)了(le)，它(tā)确(què)实(shí)比(bǐ)ChatGPT和(hé)Claude更(gèng)容(róng)易(yì)出(chū)现(xiàn)幻(huàn)觉(jué)，但(dàn)是(shì)今(jīn)年(nián)DeepSeek能(néng)火(huǒ)得(de)如(rú)此(cǐ)出(chū)圈(quān)也(yě)离(lí)不(bù)开(kāi)其(qí)强(qiáng)大(dà)的(de)创(chuàng)造(zào)能(néng)力(lì)。

有(yǒu)时(shí)候与其把AI幻(huàn)觉(jué)当(dāng)成(chéng)缺(quē)陷(xiàn)，不(bù)如(rú)把(bǎ)它(tā)看(kàn)作(zuò)创(chuàng)意(yì)的(de)源(yuán)泉(quán)！在(zài)写(xiě)作(zuò)、艺(yì)术(shù)创(chuàng)作(zuò)或(huò)头(tóu)脑(nǎo)风(fēng)暴(bào)时(shí)，这(zhè)些(xiē)“跳(tiào)跃(yuè)性(xìng)思(sī)维(wéi)”反(fǎn)而(ér)可(kě)能(néng)帮(bāng)我(wǒ)们(men)打(dǎ)开(kāi)新(xīn)世(shì)界(jiè)的(de)大(dà)门(mén)。

图(tú)库(kù)版(bǎn)权(quán)图(tú)片(piàn)，转载使用可能引发版权纠纷

AI幻觉的本质——AI在知识的迷雾中，有时会创造出看似真实，实则虚幻的“影子”。但就像任何工具一样，关键在于如何使用。

当我们学会用正确的方式与AI对话，善用它的创造力，同时保持独立思考，AI就能成为我们得(de)力(lì)的(de)助手，而不是一个“能言善辩的谎言家”。

毕竟，在这个AI与人类共同进步的时代，重要的不是责备AI的不完美，而是学会与之更好地协作。

策划制作

作者丨田威 AI工具研究者

审核丨于旸 腾讯玄武实验室负责人