ChatGPT到底是什么？会给我们生活来这些改变↓

欢(huan)迎(yíng)来到特别推出的寒假精品栏目“给孩子的高新科技课”！

人工智能作为当今最前沿的科技之一，正在以令人惊叹的速度改变着我们的生活。从智能语音助手到无人驾驶汽车，从 AI 绘画到机器学习，它为我们打开了一个充满无限可能的未来。本栏目将以通俗易懂的方式，用视频和文字给孩子讲述人工智能的原理、应用及其对社会的深远影响。

快跟我们一起开启这场 AI 之旅吧！

2022 年底，“ChatGPT”这个词悄然进入公众视野。

如果你没听说过，或是只把它当成一个聊天机器人，那就太小看它了。

很多行业，比如新闻、律师、教育、客(kè)服(fú)咨(zī)询(xún)等(děng)等(děng)，已(yǐ)经(jīng)把(bǎ) ChatGPT 应(yīng)用(yòng)在(zài)了(le)生(shēng)产(chǎn)、服(fú)务(wu)中(zhōng)。

那(nà)么(me)，ChatGPT 究(jiū)竟(jìng)是(shì)什(shén)么(me)？本(běn)期(qī)内(nèi)容(róng)，我(wǒ)们(men)就(jiù)来(lái)了(le)解(jiě) ChatGPT 和(hé)它(tā)背后的技术。

我们先从它的(de)名字(zì)说(shuō)起(qǐ)。

Chat，直(zhí)译为“闲聊”，可以说 Chat GPT 是用起来如同微信或 QQ 的一个聊天应用。只不过，在那一头的不是你的朋友，而是一个 AI。

而 G、P、T 才是更重要的部分，它是“Generative Pre-trained Transformer”的缩写。

Generative 意思是“生成式的”，这意味着它能够根据接收到的信息，生成文本做出(chū)回应。

Pre-trained 指“预训练的”，是说在跟你对话之前，Chat GPT 就已经经过了大量的文本训练。

Transformer 是一种深度学习的模型。可以说(shuō)，transformer 是(shì)整(zhěng)个(gè) GPT 的(de)核(hé)心(xīn)。

要(yào)想(xiǎng)理(lǐ)解(jiě)“ChatGPT”，我(wǒ)们(men)就(jiù)要(yào)从(cóng) AI 是(shì)如(rú)何(hé)学(xué)说(shuō)话(huà)这(zhè)件(jiàn)事(shì)情(qíng)说(shuō)起(qǐ)。

人(rén)类(lèi)说(shuō)话(huà)，是(shì)从(cóng)脑(nǎo)海(hǎi)中(zhōng)的(de)“词典(diǎn)”里(lǐ)挑(tiāo)出(chū)一(yī)些(xiē)词，组(zǔ)成(chéng)句(jù)子(zi)。如(rú)果(guǒ)只(zhǐ)是(shì)简(jiǎn)单(dān)地(de)让(ràng) AI 从(cóng)词典(diǎn)里(lǐ)随(suí)机(jī)取(qǔ)词，组(zǔ)成(chéng)的(de)句(jù)子(zi)大(dà)概(gài)率(lǜ)是(shì)不(bù)通(tōng)顺(shùn)的(de)，没(méi)有(yǒu)任(rèn)何(hé)含(hán)义(yì)。

为(wèi)了(le)让(ràng)计(jì)算(suàn)机(jī)能(néng)够(gòu)说(shuō)出(chū)人(rén)类(lèi)的(de)语(yǔ)言(yán)，人(rén)们(men)引(yǐn)入(rù)了(le)马(mǎ)尔(ěr)科(kē)夫(fu)模(mó)型(xíng)。简(jiǎn)单(dān)的(de)说(shuō)，马(mǎ)尔(ěr)科(kē)夫(fu)模(mó)型(xíng)能(néng)把(bǎ)一(yī)个(gè)词和(hé)前(qián)面(miàn)的(de)几(jǐ)个(gè)词建(jiàn)立(lì)起(qǐ)联(lián)系(xì)。

举(jǔ)个(gè)例(lì)子(zi)，根(gēn)据(jù)语(yǔ)料(liào)库(kù)，“苏(sū)打(dǎ)”的(de)下(xià)一(yī)个(gè)词是(shì)“饼(bǐng)干(gàn)”或(huò)“汽(qì)水(shuǐ)”的(de)概(gài)率(lǜ)远(yuǎn)比(bǐ)“桌(zhuō)子(zi)”或(huò)“胡(hú)萝(luó)卜(bo)”之(zhī)类(lèi)的(de)词要(yào)高(gāo)(gāo)。假(jiǎ)如(rú)继(jì)续(xù)在(zài)“苏(sū)打(dǎ)”前(qián)面(miàn)添(tiān)加(jiā)一(yī)个(gè)“吃(chī)”字(zì)，那(nà)么(me)，填(tián)“饼(bǐng)干(gàn)”的(de)可(kě)能(néng)性(xìng)又(yòu)比(bǐ)“汽(qì)水(shuǐ)”的(de)概(gài)率(lǜ)要(yào)高(gāo)。通(tōng)过(guò)这(zhè)种(zhǒng)方(fāng)式(shì)生(shēng)成(chéng)的(de)句(jù)子(zi)，就比随机生成的语句，更接近人类语言。

图库版权图片，转载使用可能引发版权纠纷

基于这样的思考，在 20 世纪 70、80 年代，一种叫做循环神经网络的模型诞生了。循环神经网络简称 RNN，它能够很好地考虑词语的顺序性以及前面(miàn)词语(yǔ)对(duì)后(hòu)面词语的影响。

但 RNN 也有一些局限性，比如它存在“梯度消失”效应。随着句子长度增长，说着说着，它就忘记前面说了什么了。

于是，人们对 RNN 模型(xíng)进(jìn)行(xíng)了(le)(le)优(yōu)化(huà)，开发出了长(zhǎng)短(duǎn)期(qī)记(jì)忆(yì)模(mó)型(xíng)，简(jiǎn)称(chēng) LSTM，以(yǐ)解(jiě)决(jué)“健(jiàn)忘(wàng)”的(de)问(wèn)题(tí)。

但(dàn)这(zhè)还(hái)不(bù)够(gòu)。基(jī)于(yú) RNN 的(de)模(mó)型(xíng)有(yǒu)两(liǎng)个(gè)问(wèn)题(tí)，一(yī)是(shì)学(xué)习(xí)速(sù)度(dù)太(tài)慢(màn)。二(èr)是(shì)对(duì)于(yú)词义(yì)的(de)理(lǐ)解(jiě)不(bù)够(gòu)好(hǎo)。

为(wèi)此(cǐ)，新(xīn)的(de)神(shén)经(jīng)网(wǎng)络架构 transformer 出现了。基于 transformer 的模型有着非常快的学习速率，能够在短时间里学习大量的文本资料。

目前，跟人们对话的 GPT 模型经过了至少 45TB 的文本资料训练。

并且 transformer 中引入了一种叫做“self attention”的技术。这让它能够根据文章中的其他词汇，辅助理解词义，更好地听懂我们所说的话。

当然了，GPT 还在不断优化中。比如 GPT-4.0 就具备了更强的逻辑推理能力，甚至能理解图片上的内容，前景不可估量。

其实，像 GPT 这样参数极其复杂、需要经过大量文本训练的语言模型，被称作大语言模型。除了 GPT，比如阿里的 PLUG，华为的盘古-α、百度的 ERNIE 3.0 等等，都属于大语言模型。

在这些大语言模型的帮助下，我们的工作、生活方式，可能发生巨大的改变。

你(nǐ)，准(zhǔn)备(bèi)(bèi)好(hǎo)(hǎo)了(le)(le)吗(ma)(ma)？

策(cè)划(huà)制(zhì)作(zuò)

本文为-创作培育计划作品

出品｜中国科协科普部

监制｜中国科学技术出版社有限公司、北京中科星河文化传媒有限公司

作者丨北京云御纪文化传播有限公司

审核丨秦曾昌 北京航空航天大学 自动化科学与电气工程学院 副教授

策划丨符思佳

责编丨符思佳

审校丨徐来 林林