Page 21
12 articles你的AI发布流程缺少的伦理审查门控
大多数工程团队在每个AI功能发布前都会进行安全审查——但对于公平性、偏差或无障碍风险，却没有同等的门控机制。这里提供了改变这一现状所需的清单、触发条件和迭代集成方案。
为什么 AI 生成的 Terraform 和 Kubernetes 配置在潜移默化中出错
LLM 生成的 Terraform、Kubernetes 配置清单和 CDK 虽然能通过语法检查，但往往带有幻觉依赖、过时的 Provider 模式以及只有在生产环境中才会显现的安全漏洞。本文将分析这些失效模式的分类，并探讨哪些工具能真正捕捉到这些问题。
为信任的功能添加 AI：方差如何摧毁你花费多年建立的信任
将 AI 改造进你最常用的功能并非在信任之上构建，而是在透支信任。本文探讨了失效模式、不对称的恢复曲线，以及一套为希望在不摧毁已有成果的情况下引入 AI 的工程师准备的分阶段引入框架。
自动化悬崖：当部分 AI 自动化比完全不自动化更糟糕时
部分 AI 自动化产生的结果可能比完全手动处理更糟。本文提供了一个工程框架，用于识别何时除非你能实现全流程自动化，否则不应进行局部自动化。
Agent 系统的授权衰减：当你的授权变成环境权限时
当用户在设置时为 AI Agent 授权后，这些权限就变成了在无人预料的上下文中行使的环境权限。本文将探讨为什么静态 OAuth 范围无法满足长生命周期 Agent 的需求，以及你应该采取哪些替代方案。
AI 功能的“双报纸测试”：捕捉事后复盘中遗漏的失败模式
大多数工程团队在审计 AI 功能时只关注技术故障，却忽略了最终会出现在伦理报告中的非技术性失败模式。双报纸测试是一个发布前框架，旨在弥补这一差距。
选择评估指标是产品决策，而非技术决策
指标选择编码了团队愿意容忍哪些失败模式。以下是为什么工程驱动的指标选择会系统性地优化错误的事情——以及如何修正它。
AI 智能体的黄金路径：平台团队如何在不成为瓶颈的前提下推动落地
将 AI 审批流程集中管控的平台团队会成为瓶颈。解法是黄金路径——有主见的默认配置，让产品团队能够自主交付 AI 功能，同时将治理内嵌到基础设施，而非审批队列。
当 AI 听起来正确但事实并非如此：技术与科学领域中的 LLM 虚构现象
LLM 在物理、化学和工程领域表现出极高的虚构迷惑性——在这些领域，“听起来正确”与“事实正确”之间的分歧最为危险。本文将介绍如何构建可靠性架构（Grounding Architectures），在这些“自信但错误”的输出造成实际损害之前将其拦截。
知识半衰期问题：为什么你的 RAG 系统现在就已经出错了
语义相似度没有时间概念——这正是生产级 RAG 系统悄然退化的根源。本文是关于新鲜度分类、分层重建索引计划、过期检测以及将知识库视为基础设施的实践指南。
训练数据自中毒：当你的 AI 功能破坏了其自身的基准真相
已部署的 AI 推荐功能会改变用户行为，从而破坏用于重新训练它们的原始数据。了解如何检测反馈循环污染、维护未受污染的基准真相，并在静默模型崩溃摧毁你的指标之前应用反事实评估。
A/B 测试陷阱：为什么标准实验设计在 AI 功能中会失效
标准的 A/B 测试在 LLM 驱动的功能中往往会失效 —— 非确定性的输出、异方差性以及无法体现语义质量的参与度指标，这些因素共同导致了虚假的信心。本文将探讨你应该采取的替代方案。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
