跳转到主要内容

990 含有标签「insider」

Posts tagged "insider" on TianPan.co.

查看所有标签

·tian

Agent 工作流的碳计算:Token 预算现已成为 ESG 披露

Agent 工作流消耗的能量可能是单次对话补全的 50–200 倍,采购团队已经开始关注这一指标。本文是一份关于逐任务碳归因、碳预算强制要求的路由决策,以及为什么率先进行观测的团队能掌控话语权的务实指南。

insider
ai-agents
sustainability
observability
+2
·tian

AI 网络保险:你的智能体会首先发现的保障缺口

大多数网络保险和 E&O 保单是为数据泄露和程序漏洞设计的,而非针对使用你的凭证运行的智能体。这种保障缺口通常在理赔时才会显现,而那时往往没人提前为此做好规划。

insider
ai-engineering
risk-management
cyber-insurance
+2
·tian

为什么弃用 AI 功能比你想象的更难:用户构建了你看不见的信任脚手架

停止 AI 功能的服务不像停用 API。契约是模型被观察到的行为,用户会在其上构建不可见的脚手架,而这些脚手架会在切换时断裂。

insider
ai-engineering
deprecation
model-migration
+2
·tian

AI 面试毫无区分度:为什么你的流程无法识别能交付 LLM 产品的人才

标准的工程面试流程往往只筛选确定性系统的技能,却忽略了预测谁能交付 LLM 产品的核心能力——包括评测设计、成本直觉、提示词调试和容错思维。解决方案是重构面试流程,而不是生硬地增加一个 AI 面试环节。

insider
hiring
ai-engineering
interviews
+1
·tian

批次层推理之问:当 50% 的折扣重塑你的架构时

提供商的批次 API 将推理成本降低了一半,但也重塑了工程契约:作业级幂等性、新鲜度边界、延迟结果的可观测性,以及一个分层感知的决策矩阵——它能将 30–50% 的 LLM 支出重新路由到那些用户从未在等待的工作负载上。

insider
llm-ops
inference
cost-optimization
+1
·tian

取消安全的智能体:你的“停止”按钮背后已经产生的副作用

“停止”只是一种 UI 手段,而非系统保证。这是一份针对取消安全智能体的从业者指南:持久化副作用账本、作用域授权、补偿操作,以及取消 UI 究竟应该显示什么。

insider
agents
reliability
distributed-systems
+2
·tian

聊天历史是数据库。别再把它当成滚动回溯了。

将对话历史视为滚动回溯(Scrollback),是智能体在第 8 轮对话后就开始跑题,以及上下文费用呈超线性增长的原因。解决办法是回归其本质——一个读密集型数据库——并据此进行设计。

insider
llm
agents
memory
+2
·tian

编程智能体自主曲线:阅读是免费的,合并是事故级的

对于编程智能体来说,单一的自主开关是错误的抽象方式。应该将每个工具映射到特定的爆炸半径层级,根据层级调整审批闸门,并使智能体的执行速度与你的回滚速度相匹配。

insider
coding-agents
ai-security
devops
+2
·tian

反事实日志:通过今天的充足记录,在明年的模型上重放昨天的流量

生产环境中的 LLM 日志能很好地回答“模型说了什么”,却难以回答“模型看到了什么” —— 正是这种差距导致了数月后的模型迁移评估宣告失败。本文介绍了一种用于可重放追踪的实用模式。

insider
ai-engineering
observability
llm-evaluation
+1
·tian

你的智能体有两条发布流水线,而非一条

智能体提示词和智能体工具在磁盘上看起来像是同一种资产,但它们的失效方式完全不同 —— 通过同一条流水线发布它们,是导致大多数智能体事故的根本性架构错误。

insider
ai-agents
release-engineering
governance
+2
·tian

确定性预算:将随机性视为按层面的分配,而非全局开关

温度不是一个全局开关。应按层面分配随机性——路由、解析、合成、生成、探索——否则你将为不需要的方差付出代价。

insider
agents
llm
evals
+2
·tian

Embedding 迁移是新时代的 Schema 迁移

在生产环境中更换 embedding 模型不仅仅是一个批处理任务 —— 它是一场具有语义影响的 Schema 迁移。为什么点对点评估会遗漏回归问题,双写窗口和邻域稳定性指标究竟能为你带来什么,以及成本结构在哪些地方会让团队措手不及。

insider
rag
embeddings
vector-search
+2
显示第 541–552 篇,共 990 篇