大模型应用开发的核心是什么？怎么让大模型更好的理解你的意图？

做了这么久的大模型应用开发，慢慢发现其实做大模型应用的核心或者说所有技术其实都围绕着一个点——让大模型更好的理解你的意图；而开发人员解决的核心问题是——怎么让大模型更准确的理解你的意图。

作者曾不止一次地说过，用户与模型打交道的唯一桥梁就是提示词，这也是大模型应用的核心。

而一个标准的提示词虽然有不同的模板，但肯定具备以下几个模块：

怎么让大模型更好的理解你的意图

所以现在拆开来看，提示词的每个模块都是做什么的？

系统提示词

系统提示词是用来指定模型的角色，由于模型的训练数据比较复杂，并且涉及领域比较广，因此它像一个无所不能的通才；但我们也知道，一个人什么都会也代表着什么都不会，因此需要告诉模型它擅长某个领域，这样它才能表现的更好。

用户问题

从理论上来说，用户的问题越精确，越有完善模型的效果会更好；但我们无法控制用户的行为，因此我们只能尽可能地去完善用户的问题，比如说问题改写。

参考内容

参考内容就是一些与用户相关的文档或数据，让模型能够更好的回答用户问题；一般是通过RAG的思想来实现。

工具描述

在智能体开发中，工具是必不可少的一环，但怎么才能让模型更好的理解工具的作用，然后去使用工具，这个就是工具描述需要做的事情。

工具描述不但要告诉模型，这个工具是干什么的，还有让模型知道怎么使用它；因此工具需要说明，其每个参数和响应也要进行说明。

最后，还有一个就是示例数据或示例问题和示例回答；简单来说就是少提示(few shot)，通过案例来告诉模型，用户大概会怎么提问，模型需要怎么回答；这玩意就像学生时代的例题，有了例题模型就能更好地理解问题，进而回答问题。

所以说，大模型应用中的所有问题本质上都可以归纳为提示词问题；即怎么构建一个简单的，完整的，能够让大模型更好理解问题和使用工具的提示词。

而以作者的经验来说，大部分情况下你做的大模型应用效果不好的原因就是提示词(智能体中工具描述也属于提示词的一种)写的不好，不够准确。

总的来说，做大模型应用开发，你的提示词写的越精确，越完善效果就越好；就比如在上篇作者做数据分析的文章中介绍的一样，做数据分析，你要告诉模型你使用的数据库，库表结构，表以及每个字段的字段类型，准确注释，是否可空等。

在此基础之上，还要有示例数据，这样模型才能更好的处理你的问题；其实，这玩意说白了就和人一个样。

当然，模型本身也存在部分问题，比如说随着上下文的增长，模型的性能会呈断崖式下降；但这是模型目前普遍存在的问题，可能以后随着大模型技术的发展这个问题会逐渐得到解决。

但在今天，我们还是需要在C端解决问题，而无法去解决大模型的问题。