跳转到主要内容

834 含有标签「ai-engineering」

Posts tagged "ai-engineering" on TianPan.co.

查看所有标签

·tian

当准确率成为负债:用户如何围绕 AI 的失败模式构建工作流

提升 AI 模型的准确率可能会让你最忠实的用户遭受重创——因为他们已经在旧的失败模式上构建了承重的变通方案。以下是 AI 团队在发布模型更新前需要具备的向后兼容思维。

ai-engineering
llmops
product
model-versioning
·tian

智能体爆炸半径:在生产事故发生前界定最坏情况的影响范围

一个在生产环境中误触发的 AI 智能体,不只是失败——它会在权限范围内真实行动。本文介绍大多数团队跳过的上线前演练:对每个工具的最坏情况建模、按可逆性分类操作,并在第一次事故教会你边界在哪里之前,强制执行权限上限。

insider
llm-agents
ai-safety
ai-engineering
+2
·tian

智能体记忆污染:一次错误工具响应如何毒害整个会话

一次事实错误或恶意构造的工具响应,可以污染 LLM 智能体整个会话的推理。本文分析失败的解剖结构,并给出真正有效的防御措施。

ai-engineering
agents
reliability
memory
·tian

智能体系统就是分布式系统:在遭遇惨痛教训前应用微服务经验

当今困扰多智能体 AI 系统的失败模式,其实是伪装成新问题的 2015 年分布式系统老问题。那些在构建智能体之前就内化了微服务经验的团队,正在交付更可靠的系统。

ai-engineering
agents
distributed-systems
reliability
·tian

为什么 AI 工程培训项目永远落后于模型

AI 工程培训项目在结构上注定落后于当前工具 12–18 个月。能跨越模型世代存续的第一性原理课程体系——以及当工具过期速度快于掌握速度时,资历究竟意味着什么。

insider
ai-engineering
skills
training
+2
·tian

AI 辅助开发中无人谈及的合规认证缺口

SOC 2、HIPAA 和 PCI-DSS 都假定审批你代码的人理解代码内容。AI 生成的代码打破了这一假设——审计人员已经开始注意到这个问题。

insider
compliance
security
ai-engineering
+1
·tian

AI 模型 API 是你看不见、固定不了、也追踪不到的软件依赖

基础模型 API 在没有语义化版本控制的情况下改变行为,从不出现在你的锁文件中,也不被 SBOM 工具追踪——以下是防止由此导致生产故障的规范实践。

ai-engineering
llmops
dependency-management
reliability
·tian

AI 原生 API 设计:构建智能体真正能调用的后端

REST API 是为人工编写的客户端设计的。AI 智能体会以完全可预见的方式破坏它们——幻觉出端点名称、在没有幂等性的情况下重试、忽略稀疏的错误信息。本文介绍如何构建智能体能够可靠调用的后端。

ai-engineering
api-design
agents
system-design
·tian

AI 入职差距:为什么工程师无法学习他们无法测试的东西

新工程师无法对 LLM 回归进行二分查找,无法读懂嵌入提示词中的隐性约束,也无法通过测试建立信心。这里是让 AI 系统对没有参与构建的人员也能清晰可读的脚手架。

insider
ai-engineering
llm
onboarding
+2
·tian

AI 流水线异常处理:幻觉、拒绝和格式违规是一等公民错误

如何在生产 LLM 流水线中将幻觉、拒绝和格式违规视为一等公民错误类型——以及每种类型的检测策略和处理模式。

insider
llm
ai-engineering
error-handling
+1
·tian

AI产品的暗能量:没人预算过的后台计算

每个拥有持久化状态的AI产品都在运行不可见的推理,这些推理永远不会出现在你的延迟仪表盘或成本模型中。本文告诉你如何找到它、度量它,并决定是否关掉它。

insider
ai-engineering
cost-optimization
observability
+1
·tian

为什么你的应用日志无法还原 AI 决策

应用日志记录的是执行过程,而非推理过程。AI 系统做出依赖上下文的决策,必须通过提示词版本、检索文档和工具调用追踪才能还原。以下是 SRE 团队的监控盲区与 AI 合规真正需要之间的差距所在。

observability
ai-engineering
compliance
logging
+1
显示第 289–300 篇,共 834 篇