Agent 容错设计：让 AI 在出错时不崩

Agent 为什么容易崩

Agent 依赖外部 API、文件系统、网络——每一环都可能出错。不像传统软件有明确的异常类型，Agent 的错误更隐蔽：

• API 返回了数据但格式变了
• LLM 输出了不合法的 JSON
• 工具调用超时但 Agent 在傻等

分层错误处理

第一层：工具级重试

async function callWithRetry(fn, maxRetries = 3) {
  for (let i = 0; i < maxRetries; i++) {
    try {
      return await fn();
    } catch (err) {
      if (err.status === 429) {
        const waitMs = Math.pow(2, i) * 1000;
        await sleep(waitMs);
        continue;
      }
      throw err;
    }
  }
  throw new Error('重试耗尽');
}

第二层：Agent 级降级

在 System Prompt 中加入降级指令：

1. 主工具调用失败时优先尝试备用工具
2. 如果没有备用，用已有知识回答并标注"以下信息可能不完全准确"
3. 如果完全无法回答，诚实说"我暂时无法获取该信息"

第三层：系统级熔断

const circuitBreaker = {
  failures: 0,
  lastFail: 0,
  threshold: 5,
  cooldown: 60000,
  canTry() {
    if (this.failures < this.threshold) return true;
    return Date.now() - this.lastFail > this.cooldown;
  },
  recordFailure() {
    this.failures++;
    this.lastFail = Date.now();
  },
  recordSuccess() {
    this.failures = 0;
  }
};

输出验证

LLM 输出不可信，必须验证：

function validateToolCall(output) {
  try {
    const parsed = JSON.parse(output);
    if (!parsed.tool || !parsed.args) throw new Error('缺少必要字段');
    return parsed;
  } catch {
    return { tool: 'fallback', args: { rawOutput: output } };
  }
}

监控告警

• 记录每次工具调用的成功/失败
• 失败率超过 20% 时触发告警
• 定期审查失败日志，发现系统性问题