Disposable Scaffolding Over Durable Features

Nikola Balic (@nibzard)· best-practice

问题

在基础模型每隔数月便实现跨越式升级的领域,投入大量工程资源围绕模型构建复杂的持久型功能极具风险。诸如耗时三个月开发的复杂上下文压缩(context compression)或代码编辑自定义工具链这类功能,可能会被原生支持该任务的下一代模型一夜之间淘汰。

方案

为Agent构建工具与工作流时,要秉持「脚手架思维」。将核心模型周边的大部分代码视为临时、轻量且可废弃的存在——就像在建建筑外围的木质脚手架一样。

  • 接纳「惨痛教训」: 要认识到,随着模型能力的提升,大量复杂的脚手架最终会被「内化到模型中」。
  • 优先追求速度: 构建当下可用的最简方案,预设它日后会被废弃。这能最大化团队响应新模型的能力。
  • 避免过度工程化: 不要急于为那些更优秀的模型本就能从根源解决的问题,搭建可扩展、健壮的长期解决方案。应将工程精力聚焦于并非直接弥补模型当前短板的独特价值主张上。

这种方法能让产品保持敏捷性,确保开发资源聚焦于适配AI能力的前沿领域,而非维护注定会被淘汰的功能。

参考文献

关键词

Thorsten Ball提出围绕模型搭建可移除脚手架的思路,结合AI领域的“苦涩教训”指出,当模型性能提升后,原由脚手架承担的诸多工作将被模型自身承接。

\n\n 【直译】 Thorsten Ball 描述道:“你真正需要的是……一个脚手架。比如你要在模型周围搭建一个木质脚手架,当模型性能提升或者你需要替换模型时,这个脚手架就可以拆除。要知道,这就像‘苦涩教训’所传达的核心:一旦模型能力变得更强,大量原本由脚手架承担的工作就会被模型自身接管。”

来源摘要

正在获取来源并生成中文摘要…

来源: https://www.sourcegraph.com

← 返回社区