见山行科技

中文

English

中文

English
Sponsored by [KnowFun]: Transform your materials into personalized learning with AI.

你以为AI什么都能做？90%的人高估了AI，也低估了风险 ​

魔当实验室 · 2026年10月

本文是"AI时代的核心能力"系列第五篇。前四篇讲了放大器效应、审美与判断力、问题定义能力、系统思维。这一篇聊一个最容易被忽视的底层能力：AI素养——知道AI能做什么、不能做什么，以及什么时候该用什么方式用。

先讲两个真实发生的故事。

第一个故事，关于一个律师。

2023年，美国有个律师在法庭上提交了一份诉状，里面引用了好几个判例来支持他的论点。法官一看，这些判例好像没听说过，就让他核实。结果核实下来——所有判例都是ChatGPT编出来的，根本不存在。

这个律师被罚款，还面临纪律处分。

你可能觉得这是个老段子，是因为那个人太蠢了——谁会直接用AI写的东西上法庭？

但你知道吗？到了2026年，这种事不是变少了，而是变多了。

Deloitte 2026年的AI采纳调研里有一个数据：

"Forty-seven percent of enterprise AI users made at least one major business decision based on hallucinated content in 2024."

— Deloitte, 2026 AI Adoption Survey

翻译成中文：47%的企业AI用户，曾在2024年基于AI编造的内容做出过至少一项重大商业决策。

47%。差不多两个人里就有一个。

AI幻觉给全球企业造成的损失有多大？

"AI hallucinations cost global enterprises an estimated $67.4 billion in 2024 alone."

— NeuralWired, 2026

翻译成中文：仅2024年一年，AI幻觉就让全球企业损失了约674亿美元。

674亿美元是什么概念？相当于一个中等国家全年的GDP。

而且这个问题到现在也没有被真正解决。即使是最好的模型，在某些领域的幻觉率依然高得惊人：

"Even the best AI models still hallucinate at least 0.7% of the time on basic summarization tasks — and rates skyrocket to 18.7% on legal questions and 15.6% on medical queries."

— AI Hallucination Statistics Report, 2026

翻译成中文：即便是最好的AI模型，在基础摘要任务上的幻觉率至少也有0.7%——而在法律问题上，幻觉率飙升到18.7%，医疗问题上是15.6%。

法律领域，差不多每5次回答就有1次是编的。你敢直接用吗？

第二个故事，关于黑五。

2025年11月28日，黑色星期五。这是全球电商一年中最重要的日子之一。

但就在这一天，ChatGPT API出现了大面积故障——很多依赖ChatGPT API的电商客服机器人、产品推荐系统、智能导购功能，全部停摆。

消费者点进网站，想咨询商品，智能客服半天没反应；想让AI推荐点东西，页面一直转圈。

损失有多大？没有精确的数字，但你可以想象——黑五当天几个小时的客服和推荐系统故障，对电商来说意味着什么。

这还不是最严重的。

2025年11月18日，Cloudflare全球宕机——ChatGPT打不开了、Claude打不开了、连用来查故障的DownDetector网站都打不开了。据统计，当天全球约20%的互联网服务受到影响。

"A single infrastructure failure took down ChatGPT, X, and 20% of the internet. The incident exposed a fundamental vulnerability: when everyone relies on the same few cloud providers, everyone goes down together."

— Axis Intelligence, Cloudflare Outage Report, 2025

翻译成中文：一次基础设施故障就搞垮了ChatGPT、X（原Twitter）和20%的互联网。这个事件暴露了一个根本弱点——当所有人都依赖同样少数几家云服务商的时候，所有人会一起宕机。

12月26日，圣诞购物季，ChatGPT API又宕了4个多小时。

这些故事指向同一个问题：大多数人用AI，但并不真正了解AI。

他们不知道AI会一本正经地胡说八道。 他们不知道AI服务也会宕机，而且一宕就是全球性的。 他们不知道把数据发给在线AI服务意味着什么。 他们不知道有些场景，AI根本就不能用。

什么是AI素养？ ​

我们常说"数字素养"、"媒体素养"，AI时代，又多了一个词——AI素养（AI Literacy）。

什么是AI素养？简单说就是：知道AI能做什么、不能做什么，以及在什么情况下该怎么用。

听起来简单，但大多数人其实不具备。

很多人对AI的认知走两个极端：

  • 神化AI：觉得AI无所不能，什么都能做，迟早取代人类
  • 贬低AI：觉得AI就是个玩具，经常胡说八道，根本不靠谱

这两种认知都是错的。AI既不是万能的神，也不是没用的玩具——它是一个有特定能力边界、有特定风险的工具。真正的AI素养，是搞清楚这个边界在哪里、风险在哪里、怎么用才能扬长避短。

联合国教科文组织（UNESCO）把AI素养定义为：

"AI literacy is the set of competencies that enable individuals to engage meaningfully with AI technologies — including understanding how AI works, knowing its capabilities and limitations, using it critically and responsibly, and making informed decisions about when and how to use it."

— UNESCO, AI Competency Frameworks

翻译成中文：AI素养是一套能力，让人们能够有意义地使用AI技术——包括理解AI怎么工作、知道它的能力和局限、批判性和负责任地使用它、以及做出知情的决策——什么时候用、怎么用。

注意几个关键词：批判性地使用、知情的决策。

这就是AI素养的核心——不是盲目地用，也不是盲目地不用，而是清楚地知道自己在做什么。

判断AI怎么用，看这五个维度 ​

具体来说，判断一个场景该怎么用AI、用哪种AI，主要看五个维度。

维度一：准确性——AI说的对吗？ ​

这是最基础的问题：AI生成的内容，你能信吗？

答案是：看情况。

  • 日常聊天、头脑风暴、写初稿 —— AI大概率没问题
  • 事实性问题、数据、引用 —— 你得自己核实
  • 法律、医疗、金融等专业领域 —— 幻觉率可能高达15-20%，绝对不能直接用

Gartner估算过：

"The average cost of a single high-stakes hallucination incident is over $1.2 million when legal exposure, remediation, and reputational impact are included."

— Gartner, 2025

翻译成中文：一次高风险的AI幻觉事件，平均成本超过120万美元——这还包括了法律风险、修复成本和声誉损失。

所以，凡是重要的、高风险的内容，一定要人工审核。 这不是AI行不行的问题，这是基本的风险管理。

维度二：隐私与合规——数据安全吗？ ​

这是很多人忽视的一个问题：你发给AI的数据，去哪了？

用在线AI服务的时候，你输入的每一句话、上传的每一份文档，都会被发送到服务商的服务器上。这些数据可能被用来训练模型，也可能被存储、被分析。

如果数据里包含敏感信息呢？

  • 客户的个人信息 → 可能违反GDPR、个人信息保护法
  • 公司的商业机密 → 可能泄露给竞争对手
  • 内部文档和代码 → 可能造成知识产权风险

欧盟GDPR对个人数据的处罚最高可达全球营业额的4%。对于大公司来说，这可能是几亿甚至几十亿欧元。

"Seven obligations define GDPR-compliant AI: data minimization, purpose limitation, transparency, right to explanation, DPIA, DPO consultation, and limited data retention — with penalties of up to 4% of worldwide turnover."

— Jaikin EU, AI and GDPR, 2025

翻译成中文：GDPR合规的AI有七项义务：数据最小化、目的限制、透明性、解释权、数据保护影响评估（DPIA）、数据保护官（DPO）咨询、有限数据保留——违规处罚最高可达全球营业额的4%。

涉及敏感数据的场景，本地部署比在线API安全得多。 因为数据不离开你的电脑或服务器，你完全掌控。

维度三：可靠性——AI会宕机吗？ ​

很多人想当然地认为AI服务是"永远在线"的。但现实是：

  • 2025年11月18日：Cloudflare全球宕机，ChatGPT/Claude等大量服务不可用
  • 2025年11月28日：黑五当天ChatGPT API大面积故障
  • 2025年12月11日：ChatGPT大规模429错误，即使没达到速率限制也被限流
  • 2025年12月26日：圣诞季ChatGPT API宕机4小时以上

这些还只是比较大的故障。小规模的限流、降速、部分功能不可用，几乎每个月都有。

对于个人用户来说，宕机几个小时可能不算什么。但对于企业来说——

  • 客服系统停了 → 用户投诉、订单流失
  • 推荐系统挂了 → 销售额下降
  • 内容生成断了 → 生产进度受影响

如果你依赖AI做关键业务，可靠性就是个大问题。

本地部署的模型，虽然也可能出问题，但至少控制权在你手里——你知道它什么时候在、什么时候不在，不会因为千里之外某个数据中心出了故障，你的业务就全停了。

维度四：成本——用得起吗？ ​

很多人觉得在线API很便宜，确实——调用一次几分钱、几毛钱，看起来不贵。

但如果调用量上去了呢？

  • 一个100人的公司，每人每天用100次API → 一个月就是几十万次调用
  • 一个RAG系统，每次查询要调用好几次模型 → 成本是线性增长的
  • 高峰期调用量翻倍 → 账单也翻倍

而且在线API的价格不是你说了算——服务商说涨就涨，你没什么办法。

本地部署则不同：

  • 硬件是一次性投入，买了就是你的
  • 模型是免费的开源模型，用多少次都不额外花钱
  • 人越多、用得越频繁，本地部署越划算

成本不是越低越好，而是越可控越好。 在线API是"随用随付"，看起来灵活，但成本不可控；本地部署是"前期投入"，看起来贵，但长期成本清晰可控。

维度五：控制权——你能改吗？ ​

最后一个维度：你对AI有多少控制权？

在线AI服务，你只能改提示词——模型是别人的、数据存在别人那里、功能是别人定的。你能用，但你不能改。

本地部署呢？

  • 你可以选模型，觉得这个不好就换一个
  • 你可以微调模型，让它更懂你的业务
  • 你可以接自己的数据、自己的知识库
  • 你可以搭自己的工作流、自己的系统
  • 你可以完全控制输出质量和风格

控制权的本质，是你能不能按照自己的需求来定义AI。

需求简单的时候，在线API够用了。需求复杂了、定制化要求高了，你就需要更多的控制权——这时候本地部署就成了必然选择。

自测：你的AI素养在什么水平？ ​

问自己几个问题：

  1. 你知道你常用的AI服务，会怎么处理你的数据吗？ （会用来训练吗？会存储吗？存多久？）
  2. 你用AI生成内容后，会核实事实性信息吗？ 还是直接用？
  3. 你知道AI在哪些领域最容易出错吗？ （法律？医疗？代码？数学？）
  4. 如果AI服务宕机了，你有备选方案吗？ 还是业务直接停摆？
  5. 你能判断一个场景，适合用在线API还是本地部署吗？ 依据是什么？

四个层级 ​

层级特征风险
小白型AI是黑盒，能用就行，不关心原理和风险高——可能踩坑了都不知道怎么踩的
谨慎型知道AI会出错，重要的事情会自己检查中——能规避大部分明显风险
明智型知道AI的能力边界，会根据场景选择合适的用法低——能用好AI，也能控制风险
架构型能根据需求设计AI方案，知道什么时候用在线、什么时候用本地极低——主动管理风险，最大化价值

大多数人在"小白型"到"谨慎型"之间。能到"明智型"，就已经超过90%的人了。

怎么提升AI素养？ ​

AI素养不是什么高深的学问，它更多是一种意识——一种"不盲目、有判断"的使用态度。

三个具体的练习方法：

1. 养成"核实"的习惯 ​

不管你多信任一个AI，只要涉及事实性内容——数字、引用、案例、法律条文、医学建议——养成核实的习惯。

不用每条都查，但重要的、高风险的、要用来做决策的，一定要查。

怎么核实？

  • 关键数字 → 找原始来源
  • 引用文献 → 搜一下原文是否存在
  • 法律/医疗 → 找专业人士确认
  • 产品/价格信息 → 去官网看

AI可以帮你找方向，但最终的判断得自己来。 这不是对AI的不信任，这是对自己负责。

2. 搞清楚你的数据去哪了 ​

下次用一个AI服务之前，花两分钟看看它的隐私政策——重点看这几个问题：

  • 我输入的数据会被用来训练模型吗？
  • 数据会被存储吗？存多久？
  • 数据会被分享给第三方吗？
  • 我能删除我的数据吗？

如果这些问题的答案你都接受，那就放心用。如果接受不了——比如涉及公司机密、客户隐私、敏感数据——那就换个方式：

  • 用本地部署的模型
  • 用支持数据不被用于训练的企业版服务
  • 数据脱敏之后再用

数据是你的，控制权也应该是你的。

3. 试试本地部署，建立"AI是怎么跑的"体感 ​

提升AI素养最好的方法之一，就是自己动手在本地跑一次模型。

不用搞很复杂的——哪怕只是装个Ollama、跑一个7B的模型、聊几次天，你对AI的理解就会完全不一样。

你会知道：

  • 模型有多大、要占多少显存
  • 生成速度跟什么有关
  • 不同模型的效果差异在哪
  • 量化是什么意思，为什么要量化
  • 本地运行和在线调用的体验有什么不一样

这些体感，光看文章是得不到的。 你自己跑一次，对AI的理解就从"抽象概念"变成了"具体东西"。

而且你会发现——本地部署没那么难，普通电脑就能跑。魔当上一键就能装，装好了你就能直接体验。

最后：知道边界，才能用好工具 ​

回到我们的核心命题：AI是放大器。

但放大器有个前提——你得知道它的边界在哪。

不知道边界的人，要么把AI当神，什么都信，最后被幻觉坑了；要么把AI当废物，因为一次出错就彻底不用了。

知道边界的人，能准确地判断：

  • 这件事，AI能做好 → 放心用，提高效率
  • 这件事，AI可能出错 → 人工审核，控制风险
  • 这件事，数据太敏感 → 用本地部署，保护隐私
  • 这件事，业务不能断 → 做备选方案，保证可靠性
  • 这件事，需要定制化 → 自己搭系统，掌握控制权

AI素养的本质，不是会用多少个AI工具，而是对AI有清醒的认知——知道它能做什么、不能做什么、该怎么用、不该怎么用。

有了这种认知，AI才是你的工具；没有这种认知，你可能就是AI的小白鼠。

所以，别急着学更多AI技巧。先花点时间，搞清楚AI的边界在哪里。

知道边界，才能真正用好工具。

参考来源：