第 4 讲　AI 能做什么，不能做什么

这是第一部分的收官讲，也是整个系统课的”安全线”。前三讲我们认识了 AI 是什么、怎么改变软件、由哪些组件构成。这一讲要划出一条最关键的线：AI 的能力边界。哪些事能放心交给它，哪些事交给它就是灾难。管理者对这条线的把握，直接决定了你们的 AI 项目是稳稳落地，还是埋下隐患。

为什么”能力边界”是管理者最该记牢的一课

如果说前三讲是帮你”看懂 AI”,这一讲就是帮你”用对 AI”。而用对的前提，是知道它的边界在哪。

我见过太多项目，翻车不是因为 AI 不够强，而是因为用错了地方——把 AI 放到了它根本不擅长、甚至绝对不能碰的位置上。结果 AI 一出错，轻则没人再信任它，重则造成真实的经营损失。

这条边界，本质上是回答一个问题：AI 这个”聪明但会犯错、不能负责”的应届生，什么活能交给他独立干，什么活必须盯着、什么活压根不能让他碰？

想清楚这条线，你就掌握了用好 AI 的一半。这一讲，我把它讲透。

AI 擅长的：模糊的、语言的、需要归纳判断的事

先看它的主场。AI 擅长的事，有一个共同特征——处理”模糊的、非结构化的、需要理解和归纳判断”的信息。具体分四类：

第一类：处理非结构化信息。

什么叫非结构化？就是没有固定格式、乱糟糟的信息：一封邮件、一段聊天记录、一份 PDF 合同、一段会议录音转成的文字。传统软件对这些束手无策（它只认规整的表格字段），而 AI 恰恰擅长——它能读懂这些”人类随手产生的乱信息”,提取出有用的东西。

企业里非结构化信息占了绝大多数，这是 AI 最大的价值洼地。

第二类：语言转换。

把一种表达变成另一种：中译英、口语转书面、专业术语转大白话、技术文档转销售话术、长文转摘要。这类”翻译""改写""转换”的活儿，AI 又快又好。

第三类：归纳判断。

给它一堆信息，让它总结要点、分类、找规律、判断大致属于哪种情况。比如把一百条客户反馈归成几大类，或者判断一封投诉大概属于哪个严重等级。注意，是”大致""大概率对”的判断，不是”绝对精确”的判定。

第四类：辅助决策。

它能帮你把一个问题的选项列全、把各选项的利弊摆出来、提示你没想到的角度、起草一个初步方案。它是个很好的”参谋”,帮你想得更全、更快。

把这四类连起来看，AI 擅长的，都是过去**“只能靠人的脑子去理解和处理”**的软性工作。这些工作量大、耗时、又难以用传统软件自动化，正好被 AI 接住。

AI 不擅长的：精确的、无据的、要负责的事

再看它的雷区。AI 不擅长的事，也有共同特征——凡是要求”绝对精确、有明确依据、且需要有人负最终责任”的，它都靠不住。 分三类：

第一类：绝对准确的计算。

这是最容易被忽视、也最容易出事的一条。大模型不是计算器，它会算错，而且错得非常自然、非常隐蔽。 让它算一笔账、汇总一列数字、做多步数学运算，它给出的数字看起来煞有介事，一核对就错。

为什么？因为它的本质是”根据语言规律生成下一个字”,不是”按数学规则精确运算”。它是在”猜一个看起来对的数字”,不是在”算一个真正对的数字”。

所以：任何需要精确计算的事，交给代码、交给数据库、交给计算引擎，绝不要交给大模型。 大模型在这类场景里该干的，是”听懂你要算什么”和”把算好的结果解释成人话”,而不是”亲自去算”。（第 12 讲会用一个真实的翻车案例讲透这一点。）

第二类：无依据的裁决。

让它判断”这笔报销该不该批""这个员工该不该升职""这个客户投诉该赔多少”,而你又没有给它明确的规则依据——它就是在猜。它会给你一个听起来很合理的答案，但那个答案没有可靠依据，纯粹是它”觉得应该这样”。拿这种猜测去做真实裁决，风险极大。

有明确规则的判断，该交给工作流/规则引擎（第 3 讲讲过）；没有规则、需要真正裁量的，该交给人。

第三类：承担最终责任。

这一条是根本。AI 不会为任何后果负责。 报价报错了、合同审漏了、决策做砸了，AI 不会被问责，被问责的永远是那个签字、拍板的人。

所以，凡是”出了事要有人担责”的最终决定，责任必须落在一个具体的人身上。AI 可以提供判断、可以给出建议，但最终拍板权，不能交给一个不能负责的东西。这不是不信任 AI，这是责任的本质要求。

关键区分：“生成答案”和”执行动作”的风险天差地别

讲到这里，我要引入一个管理者极其容易忽略、但特别重要的区分。它能帮你一眼看出一个 AI 应用的风险高低。

同样是 AI 出错，“生成一个答案”和”执行一个经营动作”,后果完全不是一个量级。

• 生成答案：AI 写了一段方案、给了一个建议、答了一个问题。就算错了，只要有人看一眼再用，损失有限——大不了重写。风险是可控的。
• 执行动作：AI 直接把报价发给了客户、直接改了库存数据、直接打了一笔款、直接下了一个单。一旦错了，后果是真实的、往往不可逆的——客户已经看到了错误报价，钱已经打出去了。

这个区分，给你一把极其好用的尺子：

AI 越靠近”只生成、不执行”,越安全，可以大胆用；AI 越靠近”直接执行经营动作”,越危险，越要加人工确认。

大多数出大事的 AI 应用，都是因为让 AI 在没有人把关的情况下，直接”执行”了高风险动作。而稳妥的做法，是让 AI 负责”生成”（建议、初稿），把”执行”这一步的确认权，留给人或留给可靠的规则。

哪些场景可以自动化，哪些必须人工确认

把上面的道理落到操作上，你可以用一个简单的框架，给每个 AI 场景归类。问三个问题：

问题一：这件事需要精确，还是允许模糊？

• 需要精确（算钱、对数）→ 别用 AI，用代码/规则。
• 允许模糊（写初稿、做归纳）→ AI 的主场。

问题二：AI 是”生成”还是”执行”？

• 只生成，人来用 → 风险低，可以放开。
• 要执行动作 → 风险高，往下问第三个问题。

问题三：万一错了，后果可控吗？

• 后果轻、能及时发现、能兜底 → 在充分测试后，可以考虑逐步自动化。
• 后果重、不可逆、要担责 → 必须人工确认，绝不自动。

用这三个问题一过，一个场景该”全自动""AI 建议+人工确认”,还是”根本不该用 AI”,答案基本就清楚了。

我给你几个具体归类，帮你找感觉：

场景	该怎么处理	理由
把会议录音整理成纪要	可较大胆用 AI	生成类、允许模糊、错了好改
给客户报价	AI 生成初稿 + 人工审核	生成类，但对外、后果较重
判断报销是否超标	用规则，不用 AI	需要精确、有明确标准
汇总本月各产品线利润	用代码算，AI 只解释	需要精确计算
直接给客户发送最终报价	必须人工确认	执行类、对外、不可逆
直接修改财务/库存数据	必须人工确认或纯规则	执行类、高风险

一个真实的分寸把握

给你讲个我们项目里的分寸把握，帮你体会这条线。

一个经营分析的场景，老板想要”问一句话，就知道公司经营状况”。这里面就藏着上面所有的道理：

• 老板那句模糊的话（“最近哪块业务不太行”），由 AI 来理解——这是 AI 的主场。
• 具体的数字（营收多少、利润多少、同比降了几个点），由 数据库精确计算——绝不让 AI 去算，否则数字会错。
• 算出来的结果，再由 AI 解释成人话（“C 业务线本季度营收下滑 12%，主要受某因素影响”）——又回到 AI 的主场。
• 而这份分析，定位是给老板做决策参考的”建议”,不是自动触发任何经营动作——所以即便某句解释略有偏差，也不会直接造成损失，风险可控。

你看，同一个应用里，“理解”和”解释”交给 AI，“计算”交给数据库，“决策”留给人。每一部分都放在了它该在的位置上。 这就是把”能力边界”用对的样子。

给管理者的行动建议

• 把这条边界做成团队共识。 “精确计算不用 AI、无依据裁决不用 AI、最终责任不交 AI”——把这三条写下来，作为所有 AI 项目的红线。
• 对每个 AI 场景，先问”生成还是执行”。 这是判断风险最快的一刀。执行类、对外类、不可逆类，一律先上人工确认。
• 别因为 AI 会犯错就不用它。 犯错是它的天性，不是缺陷。正确的态度不是”因噎废食”,而是”把它用在犯错代价小的地方，并在关键处设好确认关卡”。
• 警惕”让 AI 全自动”的诱惑。 全自动看起来最省事、最酷，但也最危险。信任要靠时间和数据一点点积累，不能一步到位（第 12 讲会讲怎么逐步放开）。

小结与第一部分回顾

AI 擅长模糊的、语言的、需要归纳判断的事；不擅长精确计算、无据裁决、承担责任。“生成答案”和”执行动作”的风险天差地别——越靠近执行，越要人工把关。用”精确还是模糊、生成还是执行、后果可控吗”这三个问题，你就能给任何场景定好该不该用 AI、要不要人工确认。

到这里，第一部分”管理者如何理解大模型”就讲完了。我们完成了一件事：帮你建立起对 AI 既不神化、也不轻视的准确认知——知道它是什么、会怎样改变软件、由什么构成、能力边界在哪。

有了这个认知地基，从下一讲开始，我们进入第二部分：企业如何寻找 AI 场景。 认知是为了行动，而行动的第一步，是找到那些真正值得用 AI 去解决的问题。它们往往不在最显眼的地方，而藏在一些你习以为常、却一直在流血的角落。下一讲见。