为什么是现在：智能体从概念走向“可用”

这篇文章不讲玄学。我们把“智能体”理解成：能基于知识与工具完成具体任务的对话式应用。它不像聊天机器人只聊天，而是能理解业务语境、检索公司知识、按流程调用内部系统，帮团队更快地做对的事。

适用的典型场景（软件/技术企业）

- 售前/方案：整理投标答疑、自动生成技术澄清、输出差异化卖点清单

- 交付/运维：从知识库检索标准操作步骤（SOP），生成工单处理建议

- 客服/培训：把文档、常见问题、案例沉淀成可检索的“知识中台”

- 内部赋能：代码规范问答、研发流程问答、环境搭建指引

参考架构（易落地版）

一句话：LLM + RAG 知识库 + 工具调用 + 观测与安全。

- LLM：选用企业可用且成本可控的模型（国内：通义/文心；海外：OpenAI/Claude）。

- RAG：把公司文档做向量检索，答案可追溯、可引用。

- Tools：HTTP API、数据库查询、表格计算、搜索等受控调用。

- Orchestration：对话状态、意图识别、工具路由、重试与超时。

- Observability & Safety：埋点、日志、质量看板、敏感词与权限控制。

落地 7 步法（4–8 周可交付“可用版本”）

Step 1：定义目标与边界（1–2 天）

- 只选 1–2 个高频任务，明确成功标准（如：一次回答可解决率 ≥ 60%）。

- 列出 20–30 个“样本问题”，覆盖核心需求与边界问题。

Step 2：准备知识与数据（3–5 天）

- 收集：产品手册、FAQ、工单知识、技术白皮书、SOP 等。

- 清洗与分段：去目录/页脚、水印，按语义 300–800 字切片。

- 标注引用：保留来源文档与段落锚点，确保“可追溯”。

Step 3：检索与评测（并行 3–5 天）

- Embedding 选型：中文可优先 bge/释义向量；对比召回率/速度。

- 离线评测：用样本问题做 Recall@k、MRR、Answerable 评估。

- 提示词策略：统一回答结构（要点 + 引用），避免“自由发挥”。

Step 4：对话策略与提示工程（2–3 天）

- 角色与语气：和品牌一致（专业、克制、可引用）。

- 引用必需：回答后附“来源段落”，点开可看原文。

- 不可回答策略：无上下文或权限不足时，给出“转人工/提交工单”。

Step 5：工具接入与权限（3–5 天）

- 优先工具：工单查询、知识检索、常见计算/表格生成、外部搜索。

- 权限与审计：按用户身份限制可调用的接口；记录调用日志。

Step 6：前端体验与埋点（3–5 天）

- 基础组件：会话历史、引用高亮、反馈按钮（👍/👎）、一键复制。

- 埋点与 A/B：会话 ID、问题类型、模型版本、召回命中与用户反馈。

Step 7：上线与运营（1–2 周）

- 灰度发布：先小范围试用（10–30 人），每周迭代。

- 质量看板：一次解决率、引用覆盖率、平均响应时长、用户满意度。

- 知识补全：按“未命中问题”回填知识，形成滚动优化闭环。

安全与合规（国内项目务必重视）

- 数据最小化：仅接入完成任务所需的数据源。

- 敏感信息治理：身份证号/手机号脱敏；对外回答不回传内部机密。

- 留痕与可追溯：对话、检索与工具调用全链路可审计。

- 等保/内控：对接企业 SSO，分角色访问；按需落地私有化部署。

成本与排期（参考）

- 时间：4–8 周交付可用版；8–12 周形成稳定运营。

- 成本：模型调用（按量计费）、向量库/对象存储、日志与监控。

- 优化路径：命中率↑ → 模型推理成本↓；热门问答模板化降低开销。

如何判断“做得好”

- 业务侧：一次解决率 ≥ 60%，转人工率持续下降。

- 知识侧：回答均带引用，引用覆盖率 ≥ 80%。

- 体验侧：平均响应 < 3s，满意度 ≥ 4.3/5。

一个真实的小故事

上周我们把“售前招投标答疑”做成了智能体。原来两位同事要来回翻几十个 Word/PDF 才能回复客户。现在销售在对话框里问：“这份招标文件里对数据加密有什么要求？” 智能体会给出两段要点摘要，并附上原文页码与段落锚点。大多数问题 1–2 分钟就能搞定，真正复杂的才转交技术同学处理。

落地清单（你可以直接用）

1. 选 1–2 个业务任务与 20–30 个样本问题

2. 整理并清洗内部文档，分段入库

3. 做一轮召回与答案质量评测

4. 确定回答模板与“不可回答”策略

5. 接 1–2 个工具（工单/搜索/表格）

6. 埋点上线灰度，做一周体验与数据回收

7. 每周复盘：补知识、调策略、控成本

—— 人工待补充区 ——

- 客户与场景：客户名称/行业/使用人群/要解决的指标

- 知识来源清单：文档库路径/共享盘/Confluence 链接

- 品牌语气与合规：禁用词、敏感边界、对外口径

- 截图与架构图：系统流程图/检索流程/权限边界图（占位）

（如需，我们可将本文转为“项目计划书 + 甘特图 + 里程碑验收清单”用于内部立项与沟通。）

如果你希望 4–8 周内把智能体跑起来，欢迎联系我们做一次“1 小时体验评估”。我们会现场把你的文档做成一个可用的 Demo，评估可行性与成本边界。