·tian
对话树:你的服务器作为日志存储的对话结构
聊天界面允许用户编辑和重新生成消息,而后端则静默地将每一次修改追加到线性日志中 —— 结果就是模型在回答那个用户以为已经撤回了的对话。
insider
ai-agents
chat-ui
context-engineering
+1·tian
延迟预算博弈:如何告诉产品经理“实时性”是有能力代价的
一种在延迟目标成为正式承诺前与产品进行谈判的结构化方法——包含转换表、“三选二”框架,以及为什么 TTFT 通常是真正关键的指标。
ai-agents
latency
product-engineering
llm-architecture
+1·tian
你的工具目录遵循幂律分布,而你却在针对长尾进行优化
生产环境中的工具使用遵循幂律分布,但大多数 Agent 框架都将工具目录视为扁平结构,并为此付出了代价:Token 膨胀、工具数量超过 100 个时的准确度崩塌,以及隐性的长尾回归。这是一份关于热/冷分区的实战指南。
insider
ai-agents
tool-use
mcp
+2·tian
10倍提示工程师的神话:为什么系统设计比提示词打磨更重要
生产数据显示,前5小时的提示词工作带来35%的提升,而接下来的40小时仅增加1%。LLM应用的真正杠杆在于检索质量、任务分解、输出验证和评估基础设施——而非提示词打磨。
insider
prompt-engineering
llm-architecture
context-engineering
+1