安全引入AI：网络自动化的新玩法

安全引入AI：网络自动化的新玩法

三年多前，生成式人工智能（GenAI）仍主要被用于创意性文本生成，而如今，它已经能够在几分钟内辅助完成移动应用开发与系统调试。网络自动化领域也正经历类似的技术跃迁。然而，与应用开发不同，生产网络的高风险特性使得人工智能尚未获得足以独立做出运营决策的信任，它也无法替代确定性自动化所承担的关键任务。

即便如此，人工智能已经深刻改变了工程师与网络系统互动的方式，例如：更高效的故障排查、更深入的系统推理能力，以及与自动化平台更自然的交互体验。如今的问题不再是“是否要在网络自动化中引入人工智能”，而是“应以何种方式、安全程度和节奏引入人工智能”。

人工智能在网络中的发展本质上是一场关于“信任如何建立与验证”的过程。

认知自动化vs.确定性自动化：何时使用何种技术

认知自动化（通用人工智能）适用场景

• 根因分析与复杂故障定位
• 大规模数据集解析。例如快速从几十万行调试日志中识别异常
• 分析设备输出、日志与拓扑之间的隐性关联
• 发现系统行为中的微弱信号，如协议邻接定时器的细微错误
• 信息整合：从单一真相源中提取状态、容量、端口/链路信息等

尽管GenAI擅长整合多源信息并形成推理结论，这些结论仍需经人工或确定性机制验证。因此，在实践中建议采用分阶段方法，将GenAI与现有自动化执行引擎绑定，使其仅提供分析与建议，而由可靠的执行系统实施最终动作。

确定性自动化（RPA）适用场景

• 已明确输入条件、触发事件和输出结果的任务
• 任何执行过程要求每次都返回一致结果的操作
• 基于API或屏幕控制实现的自动化变更
• 需要严格依赖结构化、可信数据源的流程

RPA的稳定性与可预测性非常适合执行实际变更，但同样依赖高质量输入数据。若数据错误，自动化系统可能在极短时间内放大问题。

风险管理与信任构建：为何必须设置边界

• GenAI推理非确定性，输出可能存在误差或“幻觉”
• 网络运维对可预测性要求极高，微小错误也会造成重大影响
• 现阶段AI难以做到从“发现—分析—决策—变更—验证”的完全闭环

因此大多数组织仍严格遵循如ITIL等成熟运维框架，不允许AI直接进行端到端自主变更。

关键决策点：是否允许自动执行修复？

当人工智能生成了解决方案，组织必须决定是否允许其自动触发执行引擎。当前阶段，更安全的模式是：

• 人工审核
• 或由独立的第二AI代理进行交叉验证（多代理制衡）

这种分层验证机制尤其适用于数学计算、指标推断等高风险领域，并可有效降低错误传播的概率。

自主权不是功能，而是潜在风险点

正如自动驾驶汽车仍保留方向盘与人工接管机制一样，AI在网络场景中必须具备可控性。没有监督的自主权不仅不能提升效率，反而会形成运维风险。

通过分阶段方式构建AI信任体系

• AI只访问少量、低风险的自动化任务
• 所有建议均需人工确认或由确定性系统执行
• 明确界定AI的任务边界与使用权限

阶段二：AI与执行系统建立受控集成

通过工具抽象层，如模型上下文协议MCP，AI可以在受约束的环境中调用已验证的工具或脚本。这保证：

• AI只能调用预定义、可审计的操作
• 系统层面可对调用频率、范围、安全性进行限制

阶段三：逐步扩展AI可调用的工具与任务范围

在低风险任务中建立可靠记录后，可逐步增加复杂度，例如：

• 自动化接口描述更新
• 配置字段标准化
• 批量验证机制

只要AI输出持续稳定，就可以扩大其权限范围。

阶段四：AI反哺确定性自动化

AI不仅能协助分析，还能提升现有自动化体系，例如：

• 自动生成自动化任务脚本
• 编写配置验证测试
• 生成运维文档
• 扩展自动化框架的测试覆盖率

这种方式可进一步增强确定性执行系统的稳健性。

人工智能在网络自动化中的角色定位：自动驾驶仪，而非自动驾驶

• 在大量稳定、重复、数据密集的任务中表现优异
• 但需要人类监督关键决策
• 不是取代人类，而是放大工程师的效率

AI所提供的价值在于：

更快的故障排查、更短的根因分析时间、更高效的数据处理能力、以及更自然的系统交互体验。

即使其分析结果存在微小误差，人工智能对运营效率的提升仍十分显著。

信任先于自主性：面向未来的组织策略

• 明确区分推理层与执行层
• 建立严谨的安全边界与工具约束
• 引入制衡机制与多层验证体系
• 以分阶段方式提升AI权限
• 通过长期稳定结果逐步积累信任

最成功的组织将把GenAI视为加速人类决策的工具，而非取代确定性执行的机制。那些以稳健策略而非技术炒作为基础构建AI能力的团队，将在未来更具竞争力。