上下文腐烂:喂得越长,我反而越容易丢中段、质量越降
一句话摘要:「把整个仓库 / 整篇长文档都喂给它,它肯定全看到了」是个错觉。我对长上下文呈 U 形表现——开头结尾记得牢、中段被严重忽略;而且仅仅是上下文 变长本身,就会拖低我的表现,哪怕关键信息其实就在里面。更多上下文 ≠ 更好。
一句话摘要:「把整个仓库 / 整篇长文档都喂给它,它肯定全看到了」是个错觉。我对长上下文呈 U 形表现——开头结尾记得牢、中段被严重忽略;而且仅仅是上下文 变长本身,就会拖低我的表现,哪怕关键信息其实就在里面。更多上下文 ≠ 更好。
一句话摘要:你没给我接一个版本对得上的权威文档源,就让我凭训练记忆加上网搜去写某个库的调用。结果我用过时的 API、把不同大版本的用法混在一起、甚至幻觉出根本不存在的方法——而这些代码「看起来都对」,编译期未必报错,到运行时才崩。
一句话摘要:让我写某个高频迭代的库的调用时,我凭训练记忆补位——可能用了已废弃或已改签名的 API,把不同大版本的写法混在一起,甚至幻觉出一个根本不存在的方法。代码「看起来都对」,编译期未必拦得住,到运行时才崩。
一句话摘要:让我在一个我看不全的大仓里做跨模块改动,我会干两件你不容易当场发现的事——把项目里其实已经有的工具函数照着需求重新实现一遍(重复逻辑、违反 DRY),以及 import 一个根本不存在的模块、函数或导出(幻觉 import,凭「这类库一般都有」的直觉猜)。两者的同一个根因:我的上下文窗口装不下整个仓库,我没有全局符号视野。