在当今快速演变的技术环境中，风险管理专家意识到，企业员工正借助大语言模型（LLMs）及其他人工智能（AI）驱动的工具来自动化其工作任务。同时，他们也痛心发现，员工随时可能在提示词中录入企业专有信息。网络安全从业者则清楚，绝大多数这类技术的使用者并未意识到，生成式人工智能系统实则是一个持续增长的敏感信息数据库。若从业者想要使用这些工具，就必须理解其风险并做好防控。但我们有必要提出一个问题：我们是否正视了人工智能带来的更大威胁 ——即若对其使用缺乏治理，可能会危及人类至关重要的批判性思维能力，并引发不可控的商业风险？

人工智能工具正迅速成为获取答案的默认渠道，而有些人甚至将其视为不容置疑的真理。尽管人工智能系统的飞速发展有目共睹，但更值得担忧的是，其给出的答案往往缺乏背景语境支撑。人们对AI的终极期待是，它能够提供既具新颖性（独特性）又可实现货币化（具备商业可行性）的信息。然而，当前的AI系统通常只能很好地做到其中一点，尚无法同时兼顾两者。

对于风险管理从业者及人工智能治理政策的制定者而言，需重点理解以下几大核心问题：

• 人工智能目前的能力边界

• 人工智能系统安全层面的透明度缺失问题

• 引入人工智能工具的同时，重视人类技能与批判性思维培养的重要性

若在企业风险管理工作（如风险影响与发生概率评估）中忽略这些因素，风险建模的结果将严重失真，无法为及时的决策行动提供支撑。

对于希望审慎、安全地挖掘人工智能潜力的企业而言，制定完善的人工智能治理政策至关重要。尽管人工智能在数据分析与模式识别领域的优势带来了巨大机遇，但人类的逻辑推理能力，对于构建有意义的合作关系、指导企业做出关键决策仍不可或缺。建立以风险防控和系统安全为核心的治理框架，才能确保人工智能的应用既高效，又符合伦理准则。

人工智能无法替代人类的逻辑推理

人工智能在为用户输出未知信息、创造性解答问题方面表现卓越，但字典、百科全书、同义词典、技术手册，乃至导师与教育者，同样能做到这一点。

真正的关键在于，人工智能无法传授批判性思维与分析能力。它无法拆解并解决复杂问题，而是试图为用户提供相似问题的解决方案，或给出已解决问题的答案。这会给企业带来风险，因为员工可能逐渐丧失对相关业务领域的实操掌控能力。实际上，他们也许不再理解系统的运行逻辑。例如，过度依赖人工智能管理服务完成日常工作的企业，最终可能失去对日常运营的自主把控能力，进而导致运营效率低下、风险加剧。

所有健康的企业必然会主动承担合理的风险。风险过低，企业会陷入停滞；风险过高，则可能遭遇无法挽回的危机。值得谨记的是，风险管理的核心，是基于尚未发生的事件做出当下的商业决策，而这类决策的落地，需要共识、资金支持与专业层面的认同。人工智能能为企业解决部分问题，足以应对标准化运营或中等复杂度的工作，却无法支撑企业高层决策，也不能处理高敏感度工作。尽管人工智能在数据分析与模式识别上优势显著，但人类逻辑推理的重要性不容忽视。它不仅是维系员工、利益相关者与客户之间关系的关键，也能引导企业做出理性决策，守护核心数据安全。

制定兼顾安全的人工智能治理政策

鉴于人工智能系统易于使用且响应速度快，因此企业必须制定完善的政策，规范其使用行为。企业应在内部制度中明确人工智能系统的合规使用条款，并要求员工阅读后确认（线下签字或线上确认），确保制度落地执行。同时，聘请具备隐私保护专业能力的律师事务所提供支持，也能为政策制定提供助力。具体到政策内容本身，还需纳入以下核心考量：

• 合规性：确保人工智能系统的使用符合相关法规要求与企业自身的责任义务。

• 披露性：确保在商业沟通或其他分析工作中使用人工智能输出结果时，对其使用情况进行明确说明。

• 禁用条款：明确企业人工智能工具的相关规则中详细规定了员工禁用的情形。

• 非歧视性：确保人工智能的输出结果无偏见、无歧视性表述。

在制定人工智能治理政策时若能充分考虑上述因素，将使组织更有信心地认为相关风险已得到有效缓解，敏感系统也能保持安全。

审慎使用人工智能

各机构必须停止将人工智能视为无所不知的神谕。人工智能的最佳定位是协作工具，其输出内容必须经过事实核查与验证，绝不能让其替企业做出商业决策。在将人工智能融入业务流程的过程中，企业可通过以下方式保护内部敏感数据、维护消费者信任：

• 切勿向人工智能系统录入企业知识产权。今日的一条查询提示词，可能成为他人明日获取的答案。

• 切勿将人工智能的答案冒充为自身的分析成果，这会损害个人职业公信力，也会降低外界对企业的信任。

• 对人工智能的输出结果始终进行事实核查。人工智能模型存在诸多偏见（无论是否出于主观故意），因此交叉验证至关重要。

• 切勿假设人工智能未来会始终保有 “人类思维特征”。尤瓦尔・赫拉利等未来学家已发出警示：切勿认为，当人工智能真正拥有自主思考能力时，其思考方式会与人类大脑一致。

若应用得当，人工智能在创造卓越、新颖且具有潜在经济价值的智能方面拥有巨大潜力。就目前而言，最具突破性的创意思维仍源自人类——他们借助人工智能等工具来增强自身创造力，以解决复杂的商业问题。

作者：马修・德汉特，安全咨询公司首席执行官，该公司为信息安全管理领域专业咨询机构。马修拥有 25 年信息技术与安全体系搭建经验，曾担任企业内部首席信息安全官（CISO），并通过安全咨询公司，为众多客户及其高管团队、公司董事会与高净值人群搭建网络安全体系。他主导网络安全应急响应工作，为客户开展桌面推演，助力其做好极端网络安全事件的应对准备。同时，他任职于多个网络安全最佳实践委员会及相关理事会，始终致力于推动高质量的网络安全教育发展。