AI Agent 选型方法论:什么问题适合用 Agent 解决?纯 AI、纯传统、还是混合架构?
AI Agent 选型方法论:什么问题适合用 Agent 解决?
这可能是现在所有技术团队都在问的一个问题:
我手上这个需求,到底该不该用 AI Agent 来做?
一边是 AI 铺天盖地的宣传,好像什么问题用 AI 都能解决。 另一边是团队里的质疑声音:"这东西用传统代码 100 行就能搞定,为什么要搞个 Agent 进来增加复杂度?"
很多团队的现状是:
- 要么什么都想套 AI,简单问题复杂化,成本高,效果差
- 要么什么都不敢用 AI,错过机会,最后被别人用 AI 降维打击
这篇文章,我给你一套完整的、可落地的方法论。 告诉你什么样的问题适合用 AI Agent,什么样的问题不该用。 以及三种实现方式(纯 AI、纯传统、混合架构)分别应该在什么情况下选择。
最后,我们用一个非常典型的场景——用自然语言查询数据库并生成可视化报表——来完整地走一遍这个决策流程。
先建立一个最基本的认知
在开始之前,我们先建立一个最基本的认知。这是所有讨论的基础:
AI Agent 不是万金油,也不是骗局。它是一个有明确适用范围的工具。
它的优势不在于"解决问题",而在于"处理不确定性"。
理解了这句话,你就理解了 80% 的选型逻辑。
传统代码的工作方式是:
我明确地知道从输入到输出的每一步规则。我把这些规则写成代码,计算机严格按照规则执行。
AI Agent 的工作方式是:
我不知道,或者很难把所有规则都写出来。但是我知道大概的方向和目标。我让 AI 自己去探索,去尝试,去找到正确的路径。
所以,选型的本质问题就是:
你这个问题里的不确定性,值不值得你付出 AI 的成本和复杂度?
这是贯穿全文的核心问题。
AI Agent 适合解决的问题的六个特征
如果你手上的问题,满足下面的三个或更多特征,那它大概率是一个适合用 AI Agent 来解决的好问题。
✅ 特征 1:输入是开放式的自然语言,无法穷举
最典型的例子:用户用自然语言问你的系统各种问题。
你不可能为所有可能的问题预先写好代码。用户可能问:
- "上个季度华东地区的销售额同比增长了多少?"
- "最近 30 天,退货率最高的三个商品类别是什么?"
- "A 产品和 B 产品在用户年龄段分布上有什么差异?"
- "为什么上周三的注册量突然掉了 40%?"
这些问题,每一个都需要不同的 SQL 查询,不同的数据分析逻辑。 你不可能把所有可能的问题都预先想到,都写成硬编码的接口。
这种开放式输入的问题,是 AI Agent 最擅长的。
✅ 特征 2:解决路径不唯一,有很多条路可以到达目标
传统代码适合路径确定的问题。 AI Agent 适合路径不确定的问题。
比如:
"帮我订一张下周三去北京的机票,价格 2000 以内,时间不要太早也不要太晚。" 可以在携程订,可以在飞猪订,可以在航空公司官网订。可以中转也可以直达。可以早上 9 点也可以下午 2 点。
"帮我调研一下市场上主流的向量数据库,写一个对比分析。" 可以看官网文档,可以看技术博客,可以看 GitHub,可以看 Reddit,可以问行业里的朋友。
只要能到达目标,中间走哪条路都行。这种问题特别适合 Agent。
✅ 特征 3:需要多步推理和动态决策,中间会遇到分支
不是"输入 → 处理 → 输出"这种一步到位的问题。 是"输入 → 观察 → 决策 → 行动 → 再观察 → 再决策"这种循环的问题。
比如一个客服 Agent:
- 听用户说问题
- 判断这是什么类型的问题
- 如果是退款问题,走退款流程
- 如果是技术问题,查知识库
- 如果解决不了,转人工客服
每一步走哪个分支,是根据上一步的结果动态决定的,不是预先写死的。
这种多步推理的问题,是 Agent 的主场。
✅ 特征 4:容错率比较高,错了也没什么大不了的
AI 是会犯错的。 所以如果你的问题容错率很低,错了就会出大事,那就要非常谨慎。
反过来,如果容错率比较高,那就非常适合用 AI:
- ✅ 写初稿,人来审核和修改
- ✅ 信息检索和初步筛选,人来做最终判断
- ✅ 给建议,给参考,给灵感,最终决策人来做
- ✅ 内部工具,就算出错了影响范围也有限
记住一条铁律:
AI 输出的质量要求越低,它就越好用。 越不需要 100% 准确的地方,AI 的价值就越大。
✅ 特征 5:不需要 100% 精确,80 分就很好
很多问题,80 分的答案,在 1 秒钟内给出来,比 100 分的答案花一个小时才给出来要有价值得多。
比如:
- 老板突然问你一个数字,你不需要精确到小数点后两位,你需要 5 秒钟之内给他一个大概的量级
- 做初步的市场调研,你不需要 100% 准确的数据,你需要一个大概的方向感
- 做头脑风暴,你不需要每个想法都是金点子,10 个想法里有 2 个有用就够了
这种"快而大致正确"比"慢而完全正确"更有价值的问题,是 AI Agent 的甜蜜点。
✅ 特征 6:边缘情况非常多,写规则写不完
有些问题,90% 的常见情况规则很好写。 但是剩下 10% 的边缘情况,能把你折磨死。 而且越写发现的边缘情况越多,永远写不完。
比如地址解析、姓名解析、自然语言时间解析,都是典型的这类问题。 90% 的情况都很简单,但是剩下 10% 的奇葩情况,能让你的代码复杂度翻 10 倍。
这种问题,用 AI 效果反而更好。AI 就是靠处理这些边缘情况吃饭的。
AI Agent 不适合解决的问题的五个特征
反过来,如果你的问题满足下面的任何一个特征,我建议你慎重考虑。能不用 AI 就尽量不用。
❌ 特征 1:要求 100% 准确,错了后果很严重
我把这个放在第一条,因为这是最重要的一条。
比如:
- 银行转账,差一分钱都不行
- 医疗诊断,误诊可能出人命
- 航班控制系统,一个错误就是灾难
- 生产环境的数据库写操作
这种问题,就算 AI 能做到 99.99% 的正确率,你也不敢用。 因为那 0.01% 的错误,代价你承受不起。
对于这种问题,AI 可以做辅助,可以做建议,可以做双重检查,但是绝对不能做最终决策者。
❌ 特征 2:逻辑非常简单,规则非常清晰
如果你的问题,一个刚毕业的实习生看 10 分钟就能写出清晰的逻辑,所有情况都能覆盖到。 那你绝对不需要用 AI Agent。
用传统代码 100 行就能搞定的问题,硬要套个 Agent 上去,结果就是:
- 成本高 10 倍
- 速度慢 10 倍
- 还时不时给你犯个低级错误
这就是典型的"拿着锤子找钉子"。
❌ 特征 3:性能和延迟要求极高
AI Agent 是很慢的。 一次思考过程,可能要调用好几次大模型,每次调用少则几百毫秒,多则几秒钟。 整个过程下来,几秒钟甚至几十秒就过去了。
如果你的系统要求毫秒级的响应时间,那 AI Agent 根本就不在考虑范围内。
❌ 特征 4:结果必须可解释、可审计、可回溯
很多监管严格的领域,不仅要求结果正确,还要求你能说清楚"你是怎么得出这个结果的"。
比如金融、医疗、法律、政府服务。
而 AI 现在最大的问题之一就是黑盒。它给你一个结果,但是它很多时候说不清楚自己到底是怎么想出来的。更不用说正式的审计和回溯了。
这种领域,纯 AI 方案基本是行不通的。
❌ 特征 5:成本敏感,预算有限
AI 不是免费的。 每次调用大模型都是要钱的。 虽然每次几厘钱几分钱看起来不多,但是量大了之后,这个成本增长是非常快的。
如果你的产品是 ToC 的,用户量很大,但是每个用户的 ARPU 很低。 那你最好仔细算一算,纯 AI 的方案你能不能承担得起这个成本。
很多 Demo 看起来很酷,一到生产环境,账单就炸了。
三种实现方式的选型框架
现在我们知道了什么样的问题适合用 AI,什么样的不适合。 但是大多数真实世界的问题,不是非黑即白的。它们处在中间地带。
所以我们有三种实现方式可以选择:
- 纯 AI:全部逻辑交给 Agent
- 混合架构:核心、确定的部分用传统代码,不确定的、灵活的部分用 AI
- 纯传统:全部用硬编码的逻辑实现
让我们一个一个看。
🎯 选型 1:纯 AI Agent——当不确定是常态的时候
什么时候选纯 AI?
当你的问题里,90% 都是不确定性,几乎没有什么可以固化下来的规则。输入是开放的,路径是不确定的,输出也是灵活的。
典型例子:
- 通用聊天机器人和助手
- 开放式的数据分析和问答
- 研究助理、信息收集、调研
- 创意类工作:写文案、做设计、头脑风暴
- 代码解释器:给它任意代码,让它运行、调试、分析
纯 AI 的优势:
- ✅ 极度灵活,什么都能接,什么都能做
- ✅ 开发速度极快,不需要写太多代码
- ✅ 可以处理完全没见过的新情况
纯 AI 的劣势:
- ❌ 不可预测,有时候会犯非常低级的错误
- ❌ 成本高,量大了之后账单会很吓人
- ❌ 速度慢,延迟高
- ❌ 可观测性和调试非常困难
🎯 选型 2:混合架构——黄金标准,90% 的生产系统应该选这个
这是我最推荐的架构。也是绝大多数生产级 Agent 系统实际采用的架构。
核心思想非常简单:
把确定的部分,用传统代码写死。把不确定的部分,交给 AI。
混合架构有非常多具体的实现模式,我给你介绍最常用的三种:
模式 A:AI 做路由器,传统代码做执行
所有确定的、已知的操作,都用传统代码实现成一个个的函数或者 API。 AI 只做一件事:根据用户的输入,决定该调用哪个函数,传什么参数。
这是最成熟、最可靠、成本最低的混合模式。
举个例子:自然语言查数据库
用户输入:"上个月华东地区卖了多少钱?"
↓
AI 做解析:这是一个销售额查询,地区是华东,时间范围是上个月
↓
AI 调用已经写好的 `query_sales(region, time_range)` 函数
↓
函数执行,返回确定的结果
↓
AI 把结果用自然语言整理一下,返回给用户这个架构里,AI 只做"翻译"和"路由"的工作。真正的业务逻辑,都在传统代码里。
好处太多了:
- 安全:AI 根本碰不到数据库,SQL 注入的风险为零
- 可靠:业务逻辑是经过考验的传统代码
- 快:数据库查询是毫秒级的,只有一次 LLM 调用
- 便宜:只需要调用一次大模型
- 可观测:所有执行路径都是确定的,好调试好监控
- 可控:你可以精确地控制 AI 能做什么不能做什么
模式 B:AI 做初稿,传统代码做校验和修正
AI 先生成一个初步的结果,然后用传统代码对结果做严格的校验、修正、格式化。
最典型的例子:AI 生成 JSON。 大模型生成 JSON 有时候会有语法错误,有时候会多一个逗号,少一个引号。 不要让 AI 生成完直接用。在后面加一个传统代码的校验和修复层。 如果 JSON 解析失败,就让 AI 重发,或者用正则表达式自动修复。
另一个例子:AI 生成代码。 AI 写完代码之后,传统代码自动跑单元测试,自动做 lint,自动做安全扫描。有问题就打回去让 AI 改。
模式 C:核心路径硬编码,边缘情况交给 AI
90% 的常见情况,用传统代码写死。快,便宜,可靠。 剩下 10% 的边缘情况、特殊情况、奇葩情况,交给 AI 去处理。
这个模式的好处是:你用 10% 的额外复杂度,覆盖了 90% 的长尾需求。 而且 90% 的用户请求,走的都是快速、便宜、可靠的传统代码路径。只有 10% 的请求需要调用大模型。
整体的平均成本和性能,和纯传统方案几乎一样。但是能力边界大大扩展了。
这是我最喜欢的模式。性价比最高。
🎯 选型 3:纯传统代码——当确定是常态的时候
如果你的问题,所有的规则都是明确的,所有的情况都是可以预见的,输入输出都是确定的。 不要犹豫,直接用传统代码。
不要觉得用了 AI 就是先进,不用就是落后。 最好的架构,永远是能解决问题的最简单的架构。
什么时候选纯传统?
- 所有输入都是枚举的,可以穷举
- 业务逻辑非常清晰稳定,不会经常变
- 性能要求高,延迟要求低
- 成本敏感
- 正确性要求 100%,出问题代价高
案例分析:用自然语言查询数据库并生成可视化报表
现在我们用一个非常典型的场景,来完整地走一遍这个选型流程。
需求:用户用自然语言提问,系统自动查询数据库,生成可视化报表,用自然语言解释结果。
让我们一步一步来分析。
第一步:评估这个问题的特征
| 特征 | 评估 |
|---|---|
| 输入是开放式自然语言 | ✅ 非常符合,用户可以问任何问题 |
| 解决路径不唯一 | ✅ 同一个问题可以用很多种 SQL 来写 |
| 需要多步推理 | ✅ 理解问题 → 生成 SQL → 执行 → 选图表类型 → 生成解释 |
| 容错率比较高 | ✅ 大部分情况对就行,偶尔错了可以改 |
| 80 分就很好 | ✅ 快速得到一个大致正确的答案,比等半小时拿完美答案有价值 |
| 边缘情况非常多 | ✅ 用户可以问出千奇百怪的问题,你永远写不完规则 |
六个特征,全部符合。
✅ 结论:这个问题非常适合用 AI Agent 来解决。
第二步:选择实现方式
现在我们知道要用 AI 了。但是应该用纯 AI,还是混合架构?
让我们来拆解一下这个需求里,哪些是确定的,哪些是不确定的:
| 环节 | 确定性 | 适合的实现方式 |
|---|---|---|
| 理解用户的自然语言问题 | 低,完全开放 | AI |
| 生成正确的 SQL 查询 | 中高,但是有很多种写法 | 混合:AI 生成,传统代码做语法检查和权限控制 |
| 执行 SQL 查询数据库 | 100% 确定 | 传统代码 |
| 根据数据选择合适的图表类型 | 中高,有一些基本原则 | 混合:AI 推荐,传统代码兜底 |
| 渲染图表 | 100% 确定 | 传统代码 |
| 用自然语言解释结果和洞察 | 低,非常灵活 | AI |
✅ 结论:混合架构是最佳选择。而且应该采用"AI 做路由器,传统代码做执行"的模式。
第三步:具体的架构设计
最终的架构应该是这样的:
用户的自然语言问题
↓
[ AI 层 ] 理解问题,生成 SQL
↓
[ 传统代码层 ] SQL 语法检查、权限检查、行数限制、超时控制
↓
[ 传统代码层 ] 执行 SQL,拿到结构化数据
↓
[ AI 层 ] 根据数据特点,推荐最合适的图表类型
↓
[ 传统代码层 ] 渲染图表
↓
[ AI 层 ] 分析数据,写洞察和解释
↓
最终结果给用户每一层的责任都非常清晰:
- AI 只做它最擅长的:理解自然语言、做判断、写解释
- 传统代码做它最擅长的:确定性的执行、安全、速度、可靠性
这个架构可以同时做到:
- ✅ 用户体验非常好,真的可以问任意问题
- ✅ 安全,绝对不会出现删库、数据泄露这种事情
- ✅ 快速,大部分时间都花在两次 LLM 调用上
- ✅ 便宜,整个流程只需要 2-3 次 LLM 调用
- ✅ 可控,你可以精确地控制什么能查什么不能查
- ✅ 好调试,每一步的输入输出都是确定的,可以完整回放
这就是一个完美的混合架构的例子。
第四步:为什么不选纯 AI?
很多人第一反应是:为什么不让 AI 直接连数据库,直接查?
让我们看看纯 AI 方案会有什么问题:
- ❌ 安全:AI 生成的 SQL 可能有注入,可能会把你的数据库删了
- ❌ 成本:AI 可能会反复试 SQL,一次问答可能要调用十几次大模型
- ❌ 速度:试十几次大模型,用户可能等了一分钟还没出结果
- ❌ 不可控:你根本不知道 AI 会查什么数据,会怎么折腾你的数据库
- ❌ 难调试:出了问题你根本不知道它是怎么想的
所以,这个场景,纯 AI 方案只适合做 Demo。真要上生产,必须是混合架构。
决策检查清单
最后,我给你一个检查清单。下次你再遇到一个需求,不知道该不该用 AI Agent 的时候,就把这个清单拿出来过一遍。
🔍 AI 适合度检查清单
回答"是"的越多,越适合用 AI:
- 输入是开放式的自然语言,无法穷举
- 解决路径不唯一,有很多种方式可以达到目标
- 需要多步推理和动态决策
- 容错率比较高,偶尔错了可以接受
- 80 分的快速答案,比 100 分的慢速答案更有价值
- 边缘情况非常多,写规则永远写不完
🔍 风险检查清单
回答"是"的越多,越要谨慎用 AI:
- 要求 100% 准确,错了后果很严重
- 有严格的监管和审计要求
- 性能和延迟要求极高
- 成本极度敏感
- 出了问题没有人来负责和兜底
🔍 架构选择检查清单
根据上面两个检查的结果,选择你的架构:
- 6 个适合度全中,而且没有什么风险 → 可以考虑纯 AI
- 3-5 个适合度,有一些风险和约束 → 混合架构,黄金标准
- 0-2 个适合度,或者风险很高 → 纯传统代码,不要凑热闹
常见的坑和误区
最后说几个我见过最多的坑。希望你不要踩。
❌ 误区 1:为了用 AI 而用 AI
最常见的反模式:老板说我们要 All in AI,然后团队就开始找各种地方硬塞 AI。 本来 100 行代码能搞定的事情,硬要套个 Agent,搞复杂 10 倍,还更慢更贵更不可靠。
记住:AI 是手段,不是目的。
❌ 误区 2:反过来,什么都不敢用 AI
另一个极端:觉得 AI 都是炒作,都是割韭菜,都不靠谱。 然后眼睁睁看着竞争对手用 AI 把效率提升了 10 倍,把你按在地上打。
不要因为 10% 的风险,而错过了 100% 的机会。 从小的、内部的、低风险的场景开始试。慢慢积累经验,再逐步扩大。
❌ 误区 3:要么全 AI,要么全传统,不知道还有中间态
很多人脑子里只有二元选项:要么全让 AI 干,要么全自己写代码。 完全想不到还有混合架构这种东西。
而实际上,90% 的生产级 AI 应用,用的都是混合架构。 这才是真正的工业界最佳实践。
❌ 误区 4:把所有逻辑都塞给提示词
很多人做 Agent,就是一个巨大的提示词,把所有规则、所有约束、所有边缘情况都写在提示词里。 然后提示词越来越长,越来越复杂,最后 AI 根本记不住,还是会犯错误。
正确的做法:能写代码写死的,就不要写在提示词里。 提示词里只放那些真正需要灵活处理的东西。所有确定的规则,全部在代码层面强制 enforce。
写在最后
AI Agent 这个领域,现在还非常早期。 到处都是 hype,到处都是噪音,到处都是各种互相矛盾的观点。
作为一个技术负责人,你需要有自己的判断力。 不要听风就是雨,别人说什么好你就用什么。 也不要固步自封,拒绝所有新东西。
你需要的是一套冷静的、理性的、基于第一性原理的决策框架。 知道什么场景该用什么技术,知道每种技术的边界在哪里,代价是什么。
希望这篇文章,能给你提供这样一个框架。
以后再有人跟你说"这个我们用 AI Agent 来做吧"的时候,你可以把这篇文章甩给他,然后说: "好啊。那我们先来过一遍这个检查清单。"
总结回顾
最后用三句话总结全文的核心思想:
- AI Agent 的优势不在于解决问题,而在于处理不确定性。
- 把确定的部分用传统代码写死,把不确定的部分交给 AI。这就是混合架构的精髓。
- 90% 的生产场景,混合架构都是最佳选择。
就这么简单。
作者: itech001 来源: 公众号:AI人工智能时代 网站: https://www.theaiera.cn/ 每日分享最前沿的AI新闻资讯和技术研究。
本文首发于 AI人工智能时代,转载请注明出处。