知识截止日期

Knowledge cutoff

模型不再拥有此日期之后的参数知识。截止时间之后出现的库、API 和事件,如果没有将相应文档作为上下文知识加载,就会成为诱发编造的陷阱。每个模型版本都有自己的知识截止时间。

知识截止时间源于模型的制造方式:训练将当时的文本快照固化到模型参数中,之后参数就被冻结。模型并不知道自己的知识存在边界——当被问到截止时间之后的事物时,它不会拒绝回答,而是从自己知道的最相近事物向外推断。正因如此,这个陷阱不易察觉:按照旧版库写出的代码看起来合理,通常还能通过编译,只有运行到发生变更的部分时才会失败。

解决方法始终一样:把最新信息放进上下文。加载变更日志,指向已安装版本的类型定义,或让 Agent 从网上读取文档。上下文中存在的信息,总会胜过参数中根本不存在的信息。

用法:

“它一直在写 v3 SDK 的语法——我们用的是 v5。”

“v5 是在知识截止时间之后发布的。把 v5 的变更日志作为上下文知识加载进来,否则它还会继续根据较旧的参数知识版本编造。”