跳转到主要内容

51 含有标签「context-engineering」

Posts tagged "context-engineering" on TianPan.co.

查看所有标签

·tian

你的智能体没读过的那条休假自动回复

大多数智能体堆栈按姓名而不是按角色呼叫真人 —— 一旦有人休 PTO,智能体就会和自动回复对打,直到值班同事注意到。

insider
ai-agents
escalation
on-call
+2
·tian

MCP Server 蔓延:无人监管的无边界工具表面

每个团队都在接入另一个 MCP Server,Agent 的工具表面在没有负责人、没有预算的情况下不断扩大,且每一轮对话都要支付 Token 税。本文探讨这种蔓延如何破坏选择准确性,以及什么样的策展纪律可以修复它。

insider
mcp
ai-agents
tool-calling
+2
·tian

Token 预算是产品决策,而非配置值

设置上下文窗口分配(历史记录 vs 检索结果 vs 工具输出)的那行代码,是隐藏在 f-string 中的产品决策。本文将介绍如何将其显性化、衡量它,并为其指定负责人。

context-engineering
llm
rag
product
+1
·tian

上下文窗口是公地,而每个团队都在过度放牧

Agent 的上下文窗口是一种共享的、可耗尽的资源,且缺乏分配机制。本文将探讨为什么单个功能的增加在局部是合理的,但在全局却是毁灭性的,以及如何通过归因、配额和审计来进行治理。

context-engineering
ai-agents
llm
platform-engineering
·tian

像入职初级工程师一样入职 AI 智能体是一种范畴错误

初级工程师每周都在积累上下文;而智能体则一无所获。为什么“新员工”这一比喻会分散你的注意力,以及你应该将学习重心放在何处。

ai-agents
engineering-management
context-engineering
llm
+1
·tian

Token 预算是调度问题,而非提示词问题

当一个冗长的工具结果耗尽上下文窗口时,智能体的质量就会下降。应像对待操作系统内存一样对待 Token 预算:设置上限,按优先级淘汰,并为推理留出空间。

ai-agents
context-engineering
llm
system-design
·tian

MCP 能力披露税:当每个连接的服务都在消耗你的上下文窗口

MCP 工具定义在每一轮规划时都会重新加载,每次调用悄然消耗 15-66K 个 token。随着连接的服务增多,这不仅会增加成本,还会降低工具选择的准确度。本文将探讨如何评估这种“披露税”,并通过渐进式披露、单服务成本归因和稳定 schema 来控制开销。

insider
mcp
ai-agents
context-engineering
+2
·tian

上下文膨胀:你无法用 Grep 搜寻的 AI 内存泄漏

长期运行的智能体对话会悄无声息地泄露 Token —— 二次增长的成本和性能下降隐藏在对话历史中。本文介绍如何监控、修剪和压缩上下文。

insider
ai-agents
context-engineering
observability
+1
·tian

首个Token在撒谎:为什么上下文加载——而非推理——才是AI功能延迟的真正瓶颈

AI功能的感知速度在模型生成第一个Token之前就已决定。上下文预热——预加载用户历史、预热嵌入缓存、投机性获取工具Schema——才是真正影响首Token时间的工程纪律。

insider
ai-engineering
latency
context-engineering
+2
·tian

上下文压缩失真:你的摘要中间件在悄悄丢失什么

上下文摘要是应对上下文限制的标准方案——但它会以不均匀的方式破坏信息。否定表达、精确数字、条件依赖关系和工具输出归因最先消失。以下是从业者需要了解的内容。

llm
ai-engineering
context-engineering
agents
+1
·tian

上下文长度军备竞赛:为什么填满窗口是错误的目标

每个大模型新版本发布时都会宣传更大的上下文窗口。但实践者正在发现,填满窗口会降低质量、增加延迟并消耗预算——而稀疏、精心筛选的上下文始终优于朴素的堆砌方式。

insider
llm
context-window
rag
+2
·tian

上下文窗口是一个 API 界面:像对待合约一样对待你的提示词结构

为什么将上下文窗口布局视为正式的 API 合约——通过命名槽位、版本控制和 Diff 友好结构——能使 LLM 系统更易于调试和维护。

insider
prompt-engineering
llm
context-engineering
+1
显示第 13–24 篇,共 51 篇