上下文(Context)是模型在当前任务中能参考的信息,包括指令、部分对话记录、提供的资料,以及工具返回的内容等。
提示词也是上下文的一部分。模型要理解“它”“刚才那个要求”等说法,需要相应的信息确实出现在可用的上下文中。
你给出一个规则或例子,模型可能马上照着做,这常被称为“上下文学习”:它在利用本次信息临时适应任务,通常不涉及修改权重。
它怎么知道“把它改短一点”里的“它”是什么?
如果前文提供了对应内容,模型就可以结合前文判断。“它”有多个可能指向,或者相关内容没有提供时,模型就可能理解错。
我在聊天界面能看到的内容,它都能看到吗?
产品会组织实际发送给模型的信息。长对话可能经过截取或总结,所以模型当前参考的是产品提供的那部分内容。
把更多资料都塞进去,结果就会更好吗?
优先提供与任务相关的资料,并明确指出重要信息。内容较多时,可以按主题整理,帮助模型找到当前需要的部分。
什么时候应该继续聊,什么时候适合开新对话?
同一个任务需要延续背景时,继续聊比较方便。开始独立任务,或者旧对话已有大量无关要求时,开新对话更容易保持上下文清楚。需要继承的重要背景,可以整理后带到新对话中。
同一个问题,在旧对话和新对话里问,为什么结果不同?
因为两次的上下文不同。旧对话中的要求、材料、例子和之前的回答,都可能影响后续结果。新对话还可能使用产品保存的记忆,所以也不能默认它一定完全没有背景。
我教它一个例子,它马上会了,算重新训练吗?
这通常属于上下文学习:它利用当前例子临时适应任务,权重通常保持不变。换到新对话时,可以把需要的例子一并带过去。
我纠正了 AI,它就真的知道自己错了吗?
它会根据你提供的纠正信息调整当前回答。想让它改得更准确,可以说明哪里错了,以及应该按什么依据修改。