AI 入门教程返回首页本章小测

提示词、上下文和 Token 是什么?

提示词、上下文、Token 和记忆,决定了 AI 这次能参考什么。

作者:

01

提示词

提示词(Prompt)就是提供给 AI 的指令、问题或任务说明。你平时输入的一句话,也可以是提示词。

任务目标、相关背景、限制条件和希望得到的结果形式,都可以写进提示词。它的作用是把你的意图表达清楚。

提示词必须有特殊格式吗?

没有适用于所有任务的固定格式。日常语言就可以表达任务;当要求较多时,分段列清楚会更容易理解。

提示词是不是越长越好?

不是。长度不是目的,相关、清晰、没有冲突才更重要。无关内容和重复要求可能干扰任务。

给 AI 设定“你是专家”,它就拥有专家能力了吗?

角色说明主要帮助 AI 调整回答角度、用词和组织方式。

02

上下文

上下文(Context)是模型在当前任务中能参考的信息,包括指令、部分对话记录、提供的资料,以及工具返回的内容等。

提示词也是上下文的一部分。模型要理解“它”“刚才那个要求”等说法,需要相应的信息确实出现在可用的上下文中。

你给出一个规则或例子,模型可能马上照着做,这常被称为“上下文学习”:它在利用本次信息临时适应任务,通常不涉及修改权重。

它怎么知道“把它改短一点”里的“它”是什么?

如果前文提供了对应内容,模型就可以结合前文判断。“它”有多个可能指向,或者相关内容没有提供时,模型就可能理解错。

我在聊天界面能看到的内容,它都能看到吗?

产品会组织实际发送给模型的信息。长对话可能经过截取或总结,所以模型当前参考的是产品提供的那部分内容。

把更多资料都塞进去,结果就会更好吗?

优先提供与任务相关的资料,并明确指出重要信息。内容较多时,可以按主题整理,帮助模型找到当前需要的部分。

什么时候应该继续聊,什么时候适合开新对话?

同一个任务需要延续背景时,继续聊比较方便。开始独立任务,或者旧对话已有大量无关要求时,开新对话更容易保持上下文清楚。需要继承的重要背景,可以整理后带到新对话中。

同一个问题,在旧对话和新对话里问,为什么结果不同?

因为两次的上下文不同。旧对话中的要求、材料、例子和之前的回答,都可能影响后续结果。新对话还可能使用产品保存的记忆,所以也不能默认它一定完全没有背景。

我教它一个例子,它马上会了,算重新训练吗?

这通常属于上下文学习:它利用当前例子临时适应任务,权重通常保持不变。换到新对话时,可以把需要的例子一并带过去。

我纠正了 AI,它就真的知道自己错了吗?

它会根据你提供的纠正信息调整当前回答。想让它改得更准确,可以说明哪里错了,以及应该按什么依据修改。

03

Token 与上下文窗口

Token 是模型处理信息时使用的单位。对于文字,它可能是一部分单词、一个字、标点或其他片段,不等同于字数。

上下文窗口是模型一次能容纳的信息范围,通常用 Token 数表示。输入、历史对话和输出都会受到相关长度限制,具体计算方式因模型和产品而异。

长对话超过可用范围时,产品可能省略旧内容、生成摘要,或选取部分相关信息。

一千个 Token,就是一千个字吗?

不是。不同语言、内容和模型使用的切分方式不同,Token 与字数没有固定的一比一关系。图像、声音等内容也可能折算为相应的信息额度。

上下文窗口大,就等于记性好吗?

上下文窗口越大,一次能容纳的信息越多。跨对话保存信息则由记忆功能负责。

为什么回答有时突然结束,或者无法继续上传资料?

可能碰到了输出长度、上下文窗口或产品自身的限制,也可能有其他原因。上下文窗口和单次输出上限并不是同一个限制。

我已经说过一次要求,为什么还需要重复?

相关内容可能已被省略,也可能出现遗漏或要求冲突。可以把重要条件整理成一段简短说明,在关键步骤重新提供。

04

记忆

常见大模型不会因为刚才和你聊过,就自动永久记住这段交流。它能接着聊,通常是因为系统让它再次参考了前面的内容。

一些 AI 产品会保存用户偏好或其他信息,并在之后的任务中再次提供给模型。这类功能常被称为“记忆”。

上下文描述这次能参考什么;记忆功能则涉及哪些信息被保存,并在以后重新使用。两者有关联,但不是同一件事。

开一个新对话,AI 还记得我吗?

要看产品是否提供跨对话记忆、功能是否开启,以及实际保存了什么。不要假设新对话会自动带上全部历史内容。

保存了聊天记录,就代表 AI 会一直记住吗?

不代表。历史记录可供你查看,不等于每次回答都会自动读取所有旧对话。

记忆和训练有什么区别?

记忆通常由产品保存和调取信息,再把相关内容加入上下文;训练则会调整模型本身。保存你的偏好,通常不需要重新训练模型。

每次都要把之前的聊天记录完整重发一遍吗?

系统会让模型参考必要的前情。实现时可以使用对话记录、缓存、摘要或筛选后的片段,产品负责组织这些信息。

本章回顾

提示词表达任务,上下文提供背景和依据。Token 用来计量信息,上下文窗口限制一次可容纳的范围。记忆功能可以保存信息,并在以后的任务中重新提供给模型。

随堂小测

1. 给 AI 一个例子,它马上照做,就代表模型被重新训练了。
2. 长对话中的旧内容,可能被产品省略或总结。
3. 开启新对话时,应该默认 AI 记得以前的全部要求。