跳转到主要内容

834 含有标签「ai-engineering」

Posts tagged "ai-engineering" on TianPan.co.

查看所有标签

·tian

Token 预算作为产品约束:围绕上下文限制进行设计,而不是假装它们不存在

大多数 AI 产品在处理上下文限制时会直接崩溃。本文将探讨如何围绕这些限制进行设计——包括渐进式截断、优雅降级,以及将上下文压力作为一等公民的 UI 信号进行展示。

insider
llm
product-engineering
ux
+2
·tian

环境 AI 设计:当聊天界面是错误的抽象时

大多数 AI 功能都被构建为聊天界面——但对于大部分有价值的 AI 工作来说,聊天是错误的抽象。本文将探讨如何识别何时环境智能体才是正确的选择。

ai-engineering
ai-agents
product-design
ux
·tian

LLM 流水线的背压模式:为何指数退避还不够

四种生产模式——令牌桶队列、优先级通道、感知令牌预算的熔断器和负载卸除——在指数退避让系统陷入持续过载振荡时,让 LLM 流水线保持稳定可靠。

llm
infrastructure
rate-limiting
ai-engineering
+1
·tian

行为契约:编写工程师真正能测试的 AI 需求

传统的验收标准在随机 AI 系统上会失效。四字段行为契约格式——输入类、期望行为、失败预算、测试预言机——为工程师提供了真正可衡量的依据。

ai-engineering
llm
testing
product-requirements
·tian

AI 功能中的冷启动问题:为何第一周总是失败

为何行为机器学习系统在第一天就会失败——以及在真实训练数据到来之前保持系统可用的分层引导架构。

machine-learning
personalization
recommendations
ai-engineering
·tian

系统化调试 LLM 故障:给读不懂日志的工程师的实战指南

当 Prompt 在生产环境中失效时,大多数工程师会不断尝试随机修改,直到勉强奏效。这里有一套结构化方法论——输入消融、边界测试和中间过程检查——能让你在几分钟内而非几小时内找到根本原因。

ai-engineering
llm
debugging
observability
·tian

为什么渐进式发布对 AI 功能不起作用(以及该怎么做)

特征标志和金丝雀部署假设代码是确定性的。AI 功能是随机的,质量会悄无声息地下降,而且没有实时的标准答案。这里介绍了安全部署 AI 所需的心智模型转变。

ai-engineering
deployment
feature-flags
llmops
+1
·tian

混合自动化技术栈:规则与LLM混合使用的决策框架

规则型自动化脆弱但可审计。LLM自动化灵活但不透明。这是一个实用的决策框架,用于判断哪些任务属于哪种范式——以及如何架构两者之间的接缝。

insider
llm
automation
architecture
+1
·tian

多租户 Prompt 难题:当一个系统提示词要服务多个主人时

B2B AI 产品允许客户自定义行为,但分层的系统提示词会静默地相互覆盖——直到企业客户提交工单前没人会发现。本文介绍了一种显式的指令层级架构,使冲突解决过程变得可审计。

insider
llm
b2b
prompt-engineering
+1
·tian

多变量回归问题:当所有因素同时改变时,如何隔离 AI 故障

当你的 AI 功能出现回归,且模型版本、提示词、检索语料库以及工具架构都在同一个周五发生了变化时,归因几乎变得不可能。本文将介绍能够防止最坏结果的受控实验规范和影子评估模式。

ai-engineering
debugging
production-ai
llmops
·tian

Prompt 静态分析:你的 AI 系统缺失的预部署门控

大多数团队发布提示词变更到生产环境时,审查力度还不如一次 CSS 调整。对提示词进行静态分析——捕获指令冲突、可注入的模板插槽和位置陷阱——正是你的 AI 系统缺失的预部署门控。

insider
ai-engineering
prompt-engineering
devops
+1
·tian

Schema 熵:为什么你的工具定义正在生产环境中腐烂

生产环境 AI 系统中的工具定义在数月内会悄无声息地降级。本文将探讨 Schema 熵是如何形成的,为什么 Agent 无法自我修正,以及如何通过版本控制和契约测试实践在故障发生前捕获腐烂问题。

insider
ai-engineering
tool-use
production
+1
显示第 709–720 篇,共 834 篇