你雇用的 ML 工程师并非你所需的 AI 工程师
一位工程副总裁决定公司需要“做 AI”。公司已经有一个机器学习团队——三个人,他们构建了推荐模型,调整了反欺诈分类器,并维护着一个特征存储(feature store)。显而易见的举措是让他们负责新的 LLM 项目。他们懂数学,也发布过模型。能有多大区别呢?
六个月后,原型演示效果惊艳,但在生产环境中却惨遭失败。没人能解释为什么智能体(agent)偶尔会订错会议,每个请求的成本是预估的四倍,而且根本无法判断上周的提示词(prompt)更改是让情况变好了还是变坏了。机器学习团队感到很沮丧,因为他们擅长的所有工具——梯度下降、数据流水线、超参数搜索——在他们既无法重新训练也看不透内部构造的模型上都派不上用场。
这是目前 AI 领域最常见的组织架构错误,它源于一个听起来很合理的假设:构建模型的技术与基于模型构建应用的技术是同一份工作的不同标签。事实并非如此。它们之间的重合度甚至比“前端工程师”和“后端工程师”还要低。
