
AI相关
《动手学深度学习》:https://zh.d2l.ai/
相关术语
提示词,RAG,微调三者的区别
提示词:
提示词就是prompt,即我们像大模型输入的提示词,优化prompt的方法就是尽量把提问的背景信息
、受众群体
、输出格式
、语气
等等描述清楚,让大模型更加清晰的理解我们的问题,已给出准确的答案。
举例:比如我们将一篇文章,扔给大模型,告诉他,给我总结下这个文章讲的什么,字数100以内。其实这就是长文本提示词。
RAG:检索增强生成
RAG就是个人知识库,或者外置数据库,回答的更加精准,避免胡编乱造。
举例:比如你们公司的内部客服培训文档,扔给大模型。
因为长文本提示词只能对当前会话有效,而且长文本也有一定的限制,你也不可能每次对话都将所有的文章先发过去,再提问,所以RAG技术就出来了, 我们先将知识库上传,大模型会根据提问的问题去找答案。这里面涉及到向量数据库的检索。这样也就避免了每次都需要发送长文本prompt的问题。
但是RAG也有缺点,需要经常维护知识库,检索速度等
微调:
就是大模型本身
掌握特定领域的知识范式,通用能力强,消耗的token少,速度快,训练成本高,特定的行业比较适合。
你可以把他理解成提示词的至尊版,普通的大模型你随便问个东西,他会给你胡编乱造,但是经过微调之后,同样的问题,它会给你非常精准的回答。
总结:提示词是基础,RAG保证精准度,模型微调保证专业性。
Agent:
Function Call:
MCP: