嫌火危险就不让进厨房，那就别想有什么突破
在公司里用生成式AI，风险确实存在。
机密信息泄露。 个人信息被输入。 错误信息混进来。 原样照搬AI的输出。 思考能力下降。 对AI过度依赖。
到这里为止，我觉得都是相当正经的担忧。
但如果一下子就跳到
禁止使用生成式AI。
那味道就变了。
这不是风险管理，只是放弃了制定规则，不是吗？
打个比方，就像这样：
火很危险，所以不许进厨房。 刀也危险，所以不许做饭。 不过客户的要求要满足。 要做得好吃。 要按时上菜。 还有，维持现状可不行，得有突破。
简直乱来。
火危险，就教人怎么用火。 刀危险，就教人怎么握、怎么放。 怕食物中毒，就规定要洗手、控温、生熟砧板分开。 怕着火，就要通风、确认火源、备好灭火器。
正常都是这么做的。
“危险，所以禁止进厨房”，厨艺是不会长进的。 更糟的是，连会做饭的人都培养不出来。
生成式AI也是一个道理。
风险是真的，但一刀切禁用太粗暴了
生成式AI的风险本身是真的。
日本的信息处理推进机构（IPA）就梳理过，AI存在数据被窃取或泄露、训练数据被篡改、个人信息和商业机密泄露、虚假和错误信息等问题。同时还指出，要让AI值得信赖，也得考虑性能、可解释性、合规和伦理。^ipa-ai-security
日本数字厅也发布了资料，方向是“先找出风险和必要的应对措施，再推进合理利用”。^digital-ai-guidebook
所以，风险是有的。 但这并不是说什么都不用做。
不过，关键在这里：
存在风险 和 一刀切禁用才是对的 是两回事。
汽车有事故风险。 但没有人会因此全面禁止汽车。
人们做的是驾照、交通规则、红绿灯、限速、车检、保险、安全带、禁止酒驾。
做饭有烫伤、着火、食物中毒的风险。 但没有人会因此全面禁止做饭。
人们做的是确认火源、卫生管理、通风、规范烹饪步骤、给新手做培训。
生成式AI也一样。
需要的不是禁止，而是分类。
真正该做的，是“按用途、按机密程度”设计规则
生成式AI的使用，不该一股脑全禁。 本来应该按输入信息的危险程度和使用用途的危险程度来划分。
比如这样：
| 类别 | 示例 | 处理方式 |
|---|---|---|
| 禁止输入 | 个人信息、客户信息、未公开的人事信息、合同信息、图纸、产品机密、商业秘密 | 禁止输入 |
| 高风险 | 对外提交的文件、合同文件、答复客户、法务和人事判断 | 需审批，必须由人确认 |
| 有条件可用 | 作业标准书草稿、会议纪要整理、培训资料初稿、内部文字润色 | 匿名化，并有确认人 |
| 低风险 | 一般性的文字校对、把邮件写得更礼貌、Excel函数的思路、制作检查清单 | 原则上可用 |
| 推荐环境 | 企业版合约的AI、本地部署的大模型、关闭数据用于训练、权限管理、日志管理 | 由公司统一搭建 |
这就是治理（用制度来管理）。
日本经济产业省的《AI事业者指南》，最新版不只有正文，还公开了检查清单和工作表。这说明方向是把AI“怕所以禁”变成落实到实际工作中的“怎么用”。^meti-ai-guideline
也就是说，大趋势是
不是禁止 而是规则化、培训、检查清单化、运营设计。
“能力下降”论，不拆开看也会变得粗糙
用了生成式AI会让能力下降，这种担心也不是不能理解。
不过，这也得分开来想，否则就会跑偏。
有些能力下降了也无妨，有些则必须保留。
下降了也不太要紧的能力，比如：
- 每次都从零开始写敬语邮件的能力
- 死记硬背Excel函数的能力
- 靠硬熬写出作业标准书初稿的能力
- 为换个说法纠结30分钟的能力
- 从一张白纸写出漂亮文字的能力
反过来，今后会变得重要的能力是这些：
- 判断什么可以输入的能力
- 分辨哪些信息不能输入的能力
- 检查AI输出有没有问题的能力
- 按现场规矩修改的能力
- 把目的、条件、限制说清楚的能力
- 不把最终责任推给AI的能力
- 借助AI做标准化、培训、检查清单化的能力
所以，为了守住可能因AI而下降的能力，却不去培养AI时代需要的能力，那是本末倒置。
这就好比
用计算器会降低计算能力，所以禁止 拍照会被摄走魂魄，所以禁止 开车对健康不好，所以禁止 火很危险，所以禁止做饭
工具会让一些能力变得不再必要。 但同时，别的能力会变得重要。
计算器时代需要的，不只是心算。 还有列算式的能力、验算结果的能力、读懂数字含义的能力。
生成式AI时代也是如此。
比起不靠AI全部手写的人， 能安全使用AI、质疑输出、并按现场情况修改的人，更重要。
如果现场到处都在问Excel和电脑的问题，禁用AI就更是下策
如果现场到处都是这样的问题：
Excel怎么弄？ 电脑怎么操作？ 邮件怎么写？ 作业标准书怎么整理？ 这段话怎么改？
那生成式AI就是相当得力的“辅助轮”。
AI不是替上司做最终判断的。 但在起草初稿、换种说法、拆解步骤、做成检查清单、讲解Excel函数的思路这些用途上，它相当合适。
尤其是公司内部每个人的电脑技能和文字水平参差不齐时，生成式AI能减轻培训只靠某几个人的问题。
比如，
- 把作业标准书改写得让新人容易看懂
- 把操作步骤做成检查清单
- 把邮件措辞润色得更得体
- 给出Excel函数的备选
- 把会议笔记整理成纪要的样子
- 把QC活动（质量管理小组活动）的流程做成填空表
这些用法，不必输入机密信息也能做。
连这些都禁了，现场就只能一直拿同样的问题去问人。 教的人的工作量也减不下来。 标准化无法推进。 工作只有某些人会的状况也依然存在。
然后公司还要说：
需要突破。 维持现状可不行。
可是，不是你们把突破所需的工具封起来了吗？
一刀切禁用不会带来“安全”，只会催生“暗中使用的AI”
还有一个问题。
一刀切禁用，乍一看很安全。 但实际上反而可能更危险。
因为尝过便利的人，可能会偷偷用个人账号。
微软和领英2024年的《工作趋势指数》（Work Trend Index）报告称，75%的知识型员工在工作中使用AI，其中78%的AI使用者把自己的AI工具带进了职场。此外，79%的领导者认为引入AI是保持竞争力的必要条件，但60%担心公司没有引入AI的愿景和计划。[^ms-wti-2024]
这一点相当重要。
公司不定规则，现场并不会因此停下来。 他们会私下使用。
也就是说，会变成这样：
官方上禁止 现场很为难 因为方便，就用个人账号 公司掌握不了实际情况 没有输入规则，没有培训，也没有日志 结果泄露风险真的上升了
这并不安全。 这就是“暗中使用的AI”（也就是“影子AI”）。
禁止并不能保证没人用。 只是让它看不见了而已。
外面的世界在走向“以AI为前提来设计工作”，而不是“禁止”
外面的世界，已经开始以AI为前提重塑工作了。
麦肯锡2025年的调查中，78%的受访者表示所在组织至少在一个业务职能中使用AI，71%表示至少在一个业务职能中定期使用生成式AI。[^mckinsey-2025-ai]
微软2025年的《工作趋势指数》里，也有82%的全球领导者认为现在是“重新思考战略和运营重要环节的转折点”，81%预计未来12到18个月内会把AI智能体（能自主完成任务的AI）中度或大幅整合进公司的AI战略。[^ms-wti-2025]
也就是说，世界关心的已经不是
用不用AI
而是
怎么安全地用AI 怎么把AI嵌入工作 用AI把哪些业务标准化 人在哪个环节承担判断责任
在这样的环境下，公司如果停在“全面禁用生成式AI”，就会被落下。
尤其是高喊“突破”的公司全面禁用AI，相当自相矛盾。
突破，不是无条件崇拜新工具。 但也不是连看都不看就把新工具封起来。
既然说要突破，至少应该这样说：
禁止输入机密信息和个人信息。 但从低风险用途开始，安全地试用。 文字校对、整理邮件措辞、Excel的一般咨询、作业标准书的结构草案、制作检查清单，在指定环境和确认规则的范围内可以使用。 输出必须由人确认，对外提交和判断类工作需要审批。
这样就说得通了。
这才是安全与突破的兼顾。
Mendoi酱的结论：别禁火，要教火候
生成式AI的风险不能小看。
泄露机密、错误信息、依赖，都是真的危险。 所以需要规则。
但是，一刀切禁用不是规则。
那只是
火很危险，所以别进厨房。 但客户的要求要满足。 要做得好吃。 要按时上菜。 需要突破。 维持现状可不行。
这样的自相矛盾。
危险的话，就教火候。 教刀怎么用。 从适合新手的菜单开始。 生肉和蔬菜的砧板分开。 把确认火源标准化。 放好灭火器。 做好检查清单。
生成式AI也一样。
禁止危险的用法。 允许安全的用法。 定好谁负责确认。 把能用的环境搭好。 先从低风险的工作试起。 做培训。 做成检查清单。
这才是真正的风险管理。
一刀切禁用不是治理。 只是管不了，所以封起来，是停止思考。
用Mendoi酱的话说，这就是
嘴上喊着突破，却把突破所需的工具封印起来的黑魔法
而对付它的防御术很简单：
不是问用不用AI， 而是想清楚什么不能输入， 可以用在什么上， 谁来确认， 在什么环境下使用， 并且细分到这个程度。
别禁火。 要教火候。
参考资料
https://www.ipa.go.jp/digital/ai/security/index.html
https://www.digital.go.jp/resources/generalitve-ai-guidebook
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html
[^ms-wti-2024]: 微软日本 / 领英“关于工作中AI现状的2024 Work Trend Index” https://news.microsoft.com/ja-jp/2024/05/09/240509-microsoft-and-linkedin-release-the-2024-work-trend-index-on-the-state-of-ai-at-work/
[^mckinsey-2025-ai]: McKinsey & Company “The State of AI: Global Survey” https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai-how-organizations-are-rewiring-to-capture-value
[^ms-wti-2025]: Microsoft “2025 Work Trend Index: The year the Frontier Firm is born” https://www.microsoft.com/en-us/worklab/work-trend-index/2025-the-year-the-frontier-firm-is-born
