跳转到主要内容

44 含有标签「engineering」

Posts tagged "engineering" on TianPan.co.

查看所有标签

·tian

生产环境中的采样参数:那些没人解释清楚的调参决策

Temperature、top-p 和 top-k 在无声地左右你的 LLM 输出质量。以下是工程师在生产环境中调参时真正需要了解的机制与权衡——包括为何 temperature=0 并不确定,以及 top-p 与 temperature 如何相互作用。

llm
production
engineering
ai
·tian

AI 界面中无人关注的可访问性鸿沟

逐个 Token 的流式输出会以大多数团队从未测试过的方式破坏屏幕阅读器的体验。本文将探讨为什么 WCAG 对此没有现成的解决方案,以及哪些设计模式是真正有效的。

accessibility
ai
ux
engineering
·tian

大规模 AI 代码审查:当你的机器人带来的工作量超过它节省的工作量时

探讨决定 AI PR 审查器是加速还是耗尽你的团队精力的误报率逻辑,AI 审查器能可靠捕获与经常遗漏的问题类别,以及如何衡量你的代码审查代理是否产生了正向收益。

ai
code-review
engineering
devtools
+1
·tian

非确定性服务的 API 契约:随机输出下的版本管理

传统 API 契约在封装 LLM 的服务中会失效。本文介绍如何对概率性系统进行版本管理、测试并维护向后兼容性。

insider
llm
api
engineering
+2
·tian

AI 功能定价:工程团队总是跳过的单位经济学框架

可变推理成本打破了固定价格 SaaS 的基本假设。本文提供一套实用框架,涵盖按工作流成本建模、重度用户补贴测算,以及在用量扩大时维持利润率的用量上限设计。

insider
ai
pricing
llm
+2
·tian

提供商抽象税:构建无需重写即可切换模型的 LLM 应用

直接在单一 LLM 提供商上进行开发的团队会积累提示词习惯、工具模式约定和行为依赖,这些都会转化为迁移债务。本文介绍了一种抽象层设计,使切换提供商变成只需修改配置的工作,而非长达数月的重写工程。

llm
engineering
architecture
devops
·tian

你的 AI 功能应该先输给正则表达式一次

在你投入微调或 RAG 之前,你的 AI 功能应该被要求击败你能构建的最简单的确定性基准。大多数团队跳过了这个环节,并为此付出了代价。

ai-engineering
llm
production
engineering
·tian

委托悬崖:AI 代理可靠性为何在 7 步以上崩溃

AI 代理在演示中令人印象深刻,但在生产环境中的失败率却高得惊人。本文揭示了随着任务长度增加可靠性崩溃背后的数学原理,以及你实际上能做些什么。

insider
ai
agents
engineering
+2
·tian

AI 功能的延迟预算:当核心组件是随机的,如何制定并达成 p95 SLO

LLM 延迟与数据库延迟的行为截然不同。本文介绍如何为 AI 功能制定切实可行的 p95 SLO、分解延迟预算,并利用对冲、流式传输和推测执行真正达成这些目标。

insider
ai
engineering
performance
+2
·tian

AI 采纳悖论:为何价值最高的领域反而最晚部署 AI

医疗行业的 AI 采纳率仅为 39%,而软件公司高达 92%——但医疗行业显然有更多可以从 AI 中获益的空间。这种差距并非源于规避风险,而是准确率阈值、合规时序与部署架构之间的结构性错配。

insider
ai
deployment
regulated-industries
+1
·tian

AI 代码审查陷阱:为什么更快的审查正在让你的代码库变得更糟

AI 工具让工程师写代码更快、审查代码更快,但缺陷逃逸率却在攀升。本文呈现自动化偏见、隐性逻辑错误的数据,以及真正能发现 AI Bug 的审查规范。

ai
code-review
engineering
software-quality
·tian

AI 演示跳过的五个关卡:LLM 功能发布就绪清单

为什么“演示效果很好”是 LLM 功能最糟糕的发布标准,以及每个 AI 团队在发布前必须通过的五个生产就绪关卡。

insider
llm
production
engineering
+2
显示第 25–36 篇,共 44 篇