跳转到主要内容

834 含有标签「ai-engineering」

Posts tagged "ai-engineering" on TianPan.co.

查看所有标签

·tian

流式推理中的海勒姆定律:节奏、停顿和中间 Token 是未成文的契约

当更换模型虽然保留了结构化输出 schema,但改变了 Token 节奏、停顿模式和中间表述时,你实际上发布了一个破坏性变更,违反了一个你从未正式定义的契约。

insider
ai-engineering
llm
streaming
+2
·tian

混合 PR 队列:审查者吞吐量已成为瓶颈约束

编程智能体消除了代码编写的约束,并将负载转嫁到了审查队列。如果不重新设计审查机制就直接上线智能体,团队交付的将只是一个积压工作生成器。

coding-agents
code-review
engineering-velocity
pr-workflow
+1
·tian

Prompt 卧推:对“快乐路径”之外的提示词进行压力测试

大多数 prompt 评估只针对“快乐路径”打分而忽略了长尾情况。构建一个涵盖长度、语域、语言和正式程度变化的压力矩阵,并根据性能下降曲线而非单一的准确率数值进行评分。

ai-engineering
evaluation
prompt-engineering
robustness
+1
·tian

区域模型发布的“彩票”效应:当你的产品在不同大洲表现各异时

云服务商的模型发布在各区域间并不同步。你的单模型抽象层在不同大洲之间悄然分化,而评估测试集往往是最后才发现这种差异的地方。

insider
ai-engineering
infrastructure
reliability
·tian

采样漂移:当 Temperature 和 Top-P 变成团队内部的“口头传说”

生产环境中的采样配置往往堆积了大量未经记录的 Temperature、Top-P 和惩罚项数值。当初设置这些参数的理由早已模糊,但其影响却在不断叠加。本文介绍一种捕捉此类问题的工程规范。

llm
sampling
prompt-engineering
ai-engineering
+1
·tian

需求文档、代码、测试皆出自一人:你正在悄然失去的独立性

当同一个模型编写需求文档、代码和测试时,“所有测试通过”不再是功能正常的证据 —— 它仅仅证明了模型在逻辑上是自洽的。

ai-engineering
testing
code-review
llm-coding
·tian

规范翻译税:当规范、提示词和评估发生漂移时

规范、提示词和评估是同一意图在不同媒介下的三种翻译。如果没有强制的一致性,它们就会产生漂移。一年后,没有人能分清某个回归到底是提示词的 Bug、规范的缺失,还是从第一天起就错误的评估。

insider
ai-engineering
llm-ops
spec-driven-development
+2
·tian

语音智能体轮次切换:重塑架构的 250 毫秒门槛

200–300 毫秒的轮次转换窗口迫使语音智能体采用实时架构:流式流水线、语义端点检测、猜测性生成以及插话处理。

ai-engineering
voice-agents
latency
real-time-systems
+1
·tian

入职缺口:为什么新工程师需要三个月才能上手 AI 技术栈

AI 代码库承载着一种隐藏的领域知识税,使得原本三周的入职期延长到了三个月。解决方法是决策历史,而非架构图。

insider
ai-engineering
team-design
onboarding
+2
·tian

AI 钱包:为什么 Token 预算应放在 UI 中,而非工程仪表盘里

向用户隐藏 AI 成本会导致静默限流和突如其来的降级。将 Token 预算视为真正的产品界面——包括预览、上限和模型选择——能将成本天花板从导致流失的因素转变为盈利杠杆。

ai-engineering
product-design
pricing
ux
·tian

合规审查员作为评测编写者:为什么法律团队应该为你编写测试用例

合规审查员能发现工程评测系统性遗漏的 LLM 失败模式。将他们从文档审查环节移至回归测试套件中 —— 法律签署将转变为对每次提交时运行的固定测试用例的确认。

insider
ai-engineering
evals
compliance
+2
·tian

对话式 REST:当你的聊天 UI 需要分页、过滤和排序时

聊天是一种极佳的输入方式,但却是一种糟糕的输出方式。一旦你的智能体返回的结果超过三个,正确的做法是渲染 UI,而不是继续说下去。

ai-engineering
ux
agents
generative-ui
+1
显示第 217–228 篇,共 834 篇