返回文章列表
AI

ChatGPT 为什么这么强?AI大模型背后的技术原理

仔仔
2025-11-21
2个月前
ChatGPT 为什么这么强?AI大模型背后的技术原理

01 2025年最深的感受就是:AI怎么那么强啊!


当我们打开ChatGPT、谷歌Gemini3或者Deepseek,输入一个问题,几秒钟后,屏幕上就输出一段逻辑严密、常让我非常惊叹的回答。


这时候,在这个输入框背后,到底发生了什么?AI到底有没有在思考?


为什么它既能像一个各行业的专家一样回答我的问题,又能跟我聊天像个心理医生帮我分析我的情绪,还像一个技能高手能帮我做图,做视频,做音乐,开发网站?


了解了AI背后的工作原理后,我发现它并不能自主思考,它只是在做一件事:


计算概率。


02 AI工具的本质:一个超级复杂的“接龙游戏”


以ChatGPT为例。当我们输入一句指令,比如:“你是一个牙科专家,请告诉我第一次洗牙要注意什么。”


在AI看来,它不会理解这句话的意思,而是会把这句话先解码成能处理的数字向量,依靠一个叫 Transformer 的架构,把这句话拆解成无数个细小的单位(Token),然后开始计算:根据前面这些字,下一个最可能出现的字是什么?


为了方便理解,我举个最简单的例子。


当我们输入:“床前明月光”,AI 模型里会瞬间检索它学过的海量数据,算出下一个字的概率分布:


“疑”:概率 90%


“你”:概率 2%


“饭”:概率 0.1%


因为“疑”的概率最高,所以它输出了“疑”。


接着,它把“床前明月光,疑”作为新的前提,继续算下一个字,此时出现概率最高的字,“是”。


于是,它会输出“床前明月光,疑是”。


就这样,一个字接一个字,它拼凑出了“疑是地上霜”。


这就解释了为什么AI有时候会一本正经地胡说八道。 因为它本质上不理解什么是“对”,什么是“错”。它只在乎“顺不顺口”,也就是概率上是否连得通。


只要文字的出现概率高,哪怕是错的,它也会自信地写出来。


所以,每当我们用AI时,下面都会有提示词:“AI的回答未必正确无误,请注意核查”。


03 AI是怎么学会这套逻辑的?


如果只是简单的文字接龙,AI肯定是无法理解人的问题,也无法给出想要的回答,能让AI从“鹦鹉学舌”变成“超级智能助手”,是因为它经历了一个非常耗钱、耗数据、耗算力的持久的训练过程。


这个训练过程能搞好,就会生成一个非常强大的大模型,而训练一个大模型核心分为四步。


第一阶段:数据构建(准备食材)

任何模型的构建和训练,都离不开数据。


首先,要喂给大模型庞大的数据量。


各家大模型厂商会从互联网上或自家平台的数据库中收集了海量的信息,包括书籍、网页、论文、代码。但这些数据往往很多垃圾信息,它们必须经过清洗,去粗取精,才能作为训练的原料。


这一步是决定大模型生成质量的关键,如果数据质量不行,输出的答案也会是垃圾。


第二阶段:预训练(Pre-training)

这是大模型最耗算力、最耗时、也最烧钱的一步。


我们把海量的数据整理好后喂给模型,让它自己通过“上文预测下文”的方式学习人类语言的规律,表达逻辑,人类的知识。


当AI读完万亿级别的词汇后,它就掌握了人类语言的语法、逻辑和海量的世界知识。此时的它,像是一个博闻强记但听不懂人类指令的“百科全书”。


第三阶段:监督微调(SFT)或指令微调

光有知识是不够的,还得能听懂人话。


在这个阶段,人类就开始训练AI,让它能听懂人话,并执行任务,给出我们想要的回答。我们会给模型提供大量的“发出一个指令+要做出某种回复”的规定。


比如,输入指令:请总结这段话。


AI要做出的回复是:这段话的核心意思是……


通过模仿这些「指令」范例,AI就学会了如何听懂人的诉求,如何执行任务。此刻,它就学会了具体的技能,比如翻译、写代码、用特定的语气说话,写文章,分析数据等,涉及“执行”的行为。


这一步,让它从“连字机器”变成了“能听懂人话且能做事的助手”。


第四阶段:人类反馈(RLHF)

最后,为了让回答更好,我们需要给AI的回答打分,让它不断给出更优质、更准确的回答。


当我们提出一个问题时,AI生成几个不同的回答,我们会告诉它:这个回答更有帮助,而那个回答是瞎说。


根据这些反馈(奖励或惩罚),模型会不断调整自己的参数。这就好比老师批改作业,分高了,学生自然就知道该往哪个方向努力。


04 理解这些,对我们有什么用?


当我们明白了AI是在“根据上下文预测概率”时,我们就会知道,AI“骗”我们是正常的。


以及,为什么有时候AI回答会很烂? 同一个问题,不同的输入,会得到不同的答案?


可能是因为你给的“上文”不够多,或者不够清晰,导致它算出来的“概率”跑偏了。


为什么需要给它设定角色(比如你是一个作家,你是一个新闻工作者,你是一个牙科医生)?


因为这限定了它的搜索范围,让它在“某个角色”的语料库里去计算概率,输出的词,更符合在这个角色下的信息,自然就会更专业。


05 好好活着,见证AI神迹


使用AI的过程,让我深深感受到,它极大拓展了我一个人的能力边界,越早用AI,越觉得每天都从它身上受益。


为科技能发展到这个程度,而兴奋,AI的诞生,真的让每个人都可以享受知识平权,让每个人都可以放更多的时间在“自己想要什么,想做什么”的点子上,剩下的交给AI去做。


期待我们可以活得很久很久,见证AI给我们带来的神迹。

本文内容仅供参考,不构成任何专业建议。使用本文提供的信息时,请自行判断并承担相应风险。

分享文章
合作伙伴

本站所有广告均是第三方投放,详情请查询本站用户协议