从”外挂 AI”到”AI 原生”:政务网络安全运营的能力范式切换

一个区级政务网络安全运营团队的转型思考

关键词:AI 原生|AI SOC|内生能力|研判闭环|人机协同|组织变革


前言

“AI 原生”这个词,这两年谈的人多,做对的人少。

当下很多机构的 AI 实践,停留在”给现有流程套一层 AI 工具”的外挂模式:用大模型写报告、做摘要、辅助查漏洞,AI 是独立工具,不改变原有分工、审批、资产流转、风险处置体系。

AI 原生的核心不是”用上 AI”,而是以 AI 为原生底座,重新定义组织的思考方式、权责结构、业务产品形态。这套框架对企业适用,对强合规、重稳定、高风险的政务网络安全领域,更有特殊的参考价值——因为这个领域恰好同时具备三个特征:事件量远超人力承载、处置窗口以分钟计、错误代价由公共部门承担。

需要先说清楚我们的起点:**我们的问题不是”还没有 AI”**。XDR 的自动研判已经跑了很久,每天几十万到上百万条原始告警,被压到需要人工研判的几百条。AI 早就进了我们的机房,只是还没进我们的组织。

所以这篇文章要回答的不是”要不要上 AI”,而是四个更具体的问题:设备自带的 AI 已经做到这一步,为什么还不够?组织的形状为什么会跟着变?落地路径是什么?在政务网络安全这个场景里,哪些必须守住?


一、为什么要走 AI 原生?不是跟风,是能力范式的切换

很多组织的 AI 试点失败,根源是”外挂式 AI”的天然局限:AI 作为工具,依附于人、依附旧流程,人是瓶颈,AI 的效率上限就是人的精力上限。

外挂式 AI 与 AI 原生

1.1 算力与模型的能力特征,和传统人力组织逻辑完全不同

传统组织的能力是”人来承接任务”:任务拆分到人、责任绑定到人、经验沉淀在人身上,产能上限由团队人数、人员经验、在岗时长决定。

而 AI 的核心能力是并行、持续、批量处理标准化研判、关联分析、规则推演、信息检索。外挂模式下,AI 产出的结论、报告,全部要人工复核,AI 只做”初稿生成器”,大量价值被消耗在人工校验环节,投入产出比持续走低。

一个容易忽略的细节:人工复核是串行的,AI 生成是并行的。当生成侧提速十倍、复核侧仍是单线程,整体效率不升反降——因为排队的人更多了。这就是很多单位”上了 AI 反而更忙”的真实原因。

1.2 降噪已经被解决,但瓶颈只是换了个位置

以政务安全为例:资产数千台、上百个委办局、海量日志、异构安全设备、全天候告警、重保常态化。

一个真实的量级参考(某区政务网络安全运营的日常口径):

告警处理的两个半场

我们的现状是:XDR 的自动研判已经把每日 32 万条原始告警压到约 300 条,压缩了三个数量级。但问题没有消失,它只是换了个位置。这 300 条不但没有被简化,反而每一条都更难:

  • 长尾化:好判的都被规则捞走了,剩下的是低频、无先例、跨设备的组合行为;
  • 上下文重:一条”异常登录”要判到底,需要知道这个账号是谁、在哪个委办局、平时几点登录、这台机器最近有没有装过什么;
  • 责任重:每条结论都要写成能被上级检查、能被业务单位接受的文字,不是打个标签就完事。

所以真实的工作结构是:机器把”看不过来”变成了”判不深、写不完、传不动”。而支撑后半段的,是我们 6 个人的轮班值守——2 人日班、4 人晚班(2 人轮班)。这个排班本身就是答案:值守是刚性成本,它不随告警量下降而下降。

再往下想一层:降噪的边际收益正在递减。从 32 万降到 300,靠的是一批通用规则和模型;从 300 降到 30,需要的是本地资产上下文、本地业务语义、本地历史判例——这些东西设备厂商给不了,只能自己沉淀出来。

1.3 已经买了 AI,为什么还不是 AI 原生

这是本文最想讲清楚的一件事。同样一个 AI 模型,放在设备里,和原生在组织里,是两件不同的事。

设备自带 AI 与组织级 AI 原生

设备自带的 AI 解决了”让人少看“:它把量压下来,把人从屏幕前解放出来一部分。但它有三条天花板,而且是结构性的:

第一条:准确性的天花板。 通用模型的判别边界是按”大多数客户的大多数场景”训练出来的。越往长尾走,它越不敢下结论,于是要么漏,要么把判断推给人。你会发现压缩率卡在某个数字上再也上不去——不是模型不行,是它没有你的数据。

第二条:可解释的天花板。 设备给的是一个分值和一个标签。但我们要签字、要上报、要被检查。一个说不清依据的”高危”结论,在政务场景里是不可用的——不能签字的东西,等于没有结论。

第三条:归属的天花板。 这是最要命的一条。设备 AI 是厂商的产品能力,不是我们的组织能力。换一次设备、换一家厂商,研判口径、告警规则、历史经验全部归零。三年下来,我们长了什么?长了几个熟悉界面的操作员。

所以 AI 原生的分界线,不在于”有没有用 AI”,而在于三件事:AI 接的是单点还是全链、结论有没有依据链、能力归厂商还是归自己。

一句话:设备 AI 让你少看,组织 AI 让你少做。

1.4 三个死结:外挂模式为什么一定会卡住

前面说的是”设备 AI 不够用”。更麻烦的是,就算我们自己再搭一层 AI 工具,也会很快卡住。有三个死结。

外挂模式的三个死结

死结一:AI 只是工具平台,人不调用它就闲置。

工具的效率上限,就是使用它的人的效率上限。一个人一天能复核多少条,AI 的可用产出就是多少条;多出来的产能,全部堵在人工复核这一环。这不是模型问题,是位置的错——AI 站在人的旁边,而不是站在流程里面。

有个典型的组织现象可以印证:平台上线三个月,登录数就下来了。原因不外三条——建设方按功能交付、使用方按习惯工作,两边的验收标准不在同一条线上;平台功能与业务环节没有一一对应,没有任何岗位”必须”用它;用错没有代价、用对没有收益,于是绕着走成了最省事的做法。

可用可不用,就一定会不用。 这不是意识问题,是制度问题。

死结二:AI 没嵌进流程,跨组交接仍靠人传。

一条告警的闭环要横穿四个岗位:值班岗(4 人)→ SOC 岗(2 人)→ 资产岗(1 人)→ 流程管理岗(1 人)。两次交接,两次信息重新表述,两次责任重新确认。

而 AI 的处理本来是连续的:一条日志进来,可以同时关联资产归属、历史漏洞、白名单、同域其他告警与既有处置预案,一次给出结论。但结论横跨四个岗位的职责,却没有一个岗位对它负责。

于是只有两种结局:一、没人敢直接用,退回人工从头复核,效率没提升还多一道手续;二、用了但判错,事后无法界定是规则、数据还是使用的问题,最后统一规定”AI 结论不作为依据”。

死结三:经验留在人身上,没有回写通道。

处置完一次新型攻击,他看到哪几条日志、排除了哪几种可能、最后怎么定性——全在当事人脑子里。人工每一次复核,确认攻击、标为误报、修正级别,本应沉淀为样本或规则,但没有这条通道。

结果就是:能力停在交付那天。 人员一变,口径、判例、上下文全部重新来一遍;新人不仅要重新熟悉业务,还要重新熟悉这套工具。甲方最怕的不是招不到人,是花了两年培养的人走了,什么都没留下。

三个死结看起来是三个问题,其实是一个病根:没有任何岗位,为”AI 这一段产出是否可信”负责。

这也正是成熟度从 L2 到 L3 跨不过去的真正原因——不是技术不行,是责任没落地。

破解不是三个功能,而是三个机制:

  1. **从”人调用工具”到”Agent 在流程里自运转”**——AI 是并行的、可持续的,通过工作台的形式承担流程中的一部分事务、做一部分自动审批,最终决策仍由人审核;
  2. **从”人传交接”到”Agent 并联”**——让 AI 联动知识库、技能工具,把技术、资产、监测、沟通这几路数据和信息同时拉齐(而不是串行地一个个查),把 4 次系统切换压成 1 次;
  3. **从”经验留脑”到”经验回写”**——人在工作过程中把判断沉淀进知识库与技能,专家经验保留在组织里;培训体系得以加速,而 AI 掌握的专家经验越多,能接管的流程就越多。

1.5 AI 原生的本质:把 AI 从”辅助工具”变成组织的基础能力底座

AI 原生不是全部替代人,而是重新划分边界:

  • AI 承担:高频、重复、大容量、标准化的研判、取证、关联、流转工作;
  • 人聚焦:高风险决策、异常定性、策略制定、跨部门协同、合规兜底。

组织的目标从”人完成所有工作”变成”人和 AI 协同完成风险闭环”,释放人的脑力去做只有人能做的判断。

1.6 长期壁垒沉淀在流程里,不在个体身上

传统安全团队的经验高度依赖核心骨干。而政务安全运营还有一个特殊性:岗位轮换、外包更换是常态,经验断层的概率远高于企业。

AI 原生转型,是把处置经验、研判规则、风险策略沉淀到智能体、知识库、自动化流水线中,形成组织可继承、可迭代、可审计的能力。

一句话总结:外挂 AI 是”人带着 AI 干活”;AI 原生是”AI 作为基础设施,人来定义目标、校准标准、把控底线”。


二、从外挂检查到内生能力:形态到底变了什么

上面讲的是”效率”。但更根本的变化在形态上——不是 AI 变强了,是它所依附的那个东西变了。

2.1 上一代:人生产,安全检查挂在流程外面

过去二十年,安全的组织方式其实都默认同一个前提:工作由人完成,安全靠人审查。

所以安全被设计成流程外面的一道道检查:告警要人确认、漏洞要人提单催修、上线要过门禁、事件要人写报告。这些制度长相各异,但位置一样——都在主流程的边上。

这套设计的隐含后果是:稀缺的人只能分级。 高价值的先做、认真做,其余靠设备兜底,剩下的先欠着——欠下的那部分,就是”安全债”:没闭环的低危、没复原的告警、没写进台账的处置。

这不是谁不努力,这是结构决定的。当执行主体是人,人就只能按价值排序投入。

2.2 下一代:Agent 生产,安全长在流程里面

如果执行主体换成 Agent,前提就变了。

从外挂检查到内生能力

AI 是并行的、可持续运转的:它可以同时看几十条线索、随时调用全部上下文、7×24 不打烊。于是安全不必再挂在流程外面——它可以变成流程里的一个角色:监测的同时在关联,研判的同时在取证,处置的同时在留痕,上报的同时在归档。

人的位置随之上移,从执行安全变成治理安全:划红线、管权限、审批高风险、度量质量。

这不只是分工调整,是三处位移:

  • 工作对象:从”审每一个告警、每一份报告”,变成”管规则、管口径、管红线、管权限”;
  • 交付物:从”会议纪要、工单、口头同步”,变成”结构化的依据链、可复用的技能、可回归的评估集”;
  • 稀缺的能力:从”会判的人”,变成”能把判断写成规则的人”。

第三行最容易被忽略:人还是稀缺的,但稀缺的能力换了。 以前值钱的是”我能判对”,以后值钱的是”我把我判对的逻辑,变成机器每次都能判对的规则”。

2.3 一个具体的例子:渗透测试岗的三代形态

抽象地讲”人往上移”容易空。看一个我们最熟的岗位——渗透测试。

渗透测试岗的三代形态

几年前:工程师人工挖漏洞,手工产出报告。一个大型业务系统要 2–3 人天,顺序执行,一次只能干一个,经验全在工程师身上。

现在:人工挖掘加 AI 辅助,报告自动产出。一个大型系统 1 人天。注意省下来的是哪一段——挖还是人挖,被 AI 接走的是”写”的那部分。

未来:AI 负责完整的渗透过程,自动产出报告、自动复测、自动做闭环确认。人可以同时开三条线,三个大型系统并行,半天出结果。人的工作变成三件:沉淀 AI skills、积累经验、审核结果,并持续对结果和规则做优化。

三代之间的差别不是”干得更快”,而是人做的部分变了:

  • 一代,人做全部;
  • 二代,人做判断,AI 做表达;
  • 三代,人做规则与验收,AI 做执行。

这也解释了一个常被误解的问题:AI 不是让人少干活,是让人的活换了一种算法。 一代是加法(加人加班),二代是减法(减掉写报告),三代是乘法(并行)——而乘法的前提,是人先把判断写成规则、把经验做成技能。

对政务还有一个额外的好处:渗透测试、代码审计这类”周期性、以外包为主”的服务,最怕的是人一换、报告就没人看得懂。三代形态下,报告、复测记录、判定口径本身就是可继承的资产,换一家服务商也不用从头教一遍。

2.4 真正意义上的”安全左移”:左无可左

做了很多年的”安全左移”,以前移的是检查和培训——无论怎么移,安全还是流程之外的一道工序。

现在才有可能真做到:红线写进规则,能力直接参与生成,结论生下来就带着依据。 这时的”左移”不是把检查往前挪,而是取消”前后”之分——安全不再是一个环节,而是流程自带的属性。

这就是”内生”两个字的含义:不是把检查做得更早,而是让被检查的东西自己就是合规的。


三、三处结构性错配:改不动,就推不进

形态变了,组织不改,就会出现三处硬碰硬的错配。

3.1 按岗位切的工作,和按链路处理的 AI 对不上

岗位是按”人一次能干多少”切的:值班看屏、SOC 研判、资产核归属、流程管通报。每个人只管自己那一段。

而 AI 是按链路处理的:它一次就能给出跨四段的结论。链路横跨四个岗位的职责范围,却没有一个岗位对它负责。

这就是 1.4 里”两次交接”的根源。它带来的两种结局——没人敢用、用了判错无人认——也是 L2 卡在 L3 的典型症状。

3.2 逐级上报的判断链路,跟不上数据产生的速度

线索数量大、灰度也大,相当一部分处在”误报”和”真实攻击”之间,需要当场给出判断标准。

而标准只能层层上报之后确定:发现 → 上报 → 判断 → 口径回传,一轮以小时计;攻击完成,往往是分钟级。更麻烦的是,口径每次回传都可能微调,Agent 的判定标准就跟着反复摇摆——上一版判高危,这一版判误报,一线就再也不敢信它。

3.3 经验留在个人身上,没有回头喂养

处置完一次新型攻击,他看了哪几条日志、排除了哪几种可能、为什么这么定性——这些没有变成规则和样本。

AI 的能力就停在交付那天。前者拖慢响应,后者让 AI 越用越不准,最后被一线关掉提醒——一个越用越不准的工具,比没有工具更消耗信任。

3.4 所以,组织到底要改什么?

不是裁人,而是改五个维度:

组织形态的五个迁移维度

注意最后一个维度的顺序:**先有”可解释、可追溯”的能力,才敢放开”预授权”**。这是政务场景与商业场景最大的不同——企业可以先跑起来再补合规,政务必须先立规矩再放开手脚。


四、组织形态:从金字塔到一张网

4.1 金字塔的三个隐含假设,正在同时失效

金字塔不是谁拍脑袋想出来的,它是三个约束下的最优解:

假设一:信息传递有成本。 一个人管不了太多人,所以要分层压缩信息、控制管理跨度。AI 时代传递成本趋近于零,但要注意——被压缩的信息量回来了,理解成本并没有消失。层级压掉的是信息量,不是判断质量。

假设二:决策需要授权。 权限必须由人层层授予才可控。现在授权可以写进规则和系统,按动作分级,执行得比制度更彻底——系统不会忘记、不会通融、也不会因为忙就跳过。

假设三:经验稀缺。 好的判断只长在少数骨干身上,所以要集中使用、层层请教。现在经验可以被复制:一个训练好的智能体可以同时服务二十个岗位,边际成本接近零。

三条同时松动,组织就必然从”用层级管理稀缺“,转向”用网络调度富足“。

翻译成日常语言:过去管理者最重要的工作是”派活 + 汇总”,因为信息到不了位;现在这两件事机器都能干,管理者剩下的事只有两件——定义边界,校准标准。

4.2 当每个岗位都有自己的智能体

变化的起点非常具体:每个岗位配一个自己的辅助智能体,协作从”逐级传递”变成”横向连接”。

金字塔与网络

内部协作网络的形态可以参考一组公开数据:某头部模型公司内部,155 名员工对应 150 个 Agent 会话、2060 条同线程写入关系——一个公司内部,Agent 参与的协作关系已经是人机混合网络。

更大的样本来自同一家公司的招股书:5300 人,上半年营收 162.9 亿美元,人均年营收约 660 万美元;智能体总工时在 3 月就超过人类员工,到 8 月是人类员工的 6 倍,研究部门高达 19 倍;员工与模型的会话中,”设计任务、搭监控、检查结果”这类**元工作占比从 10% 涨到 22%**——人的工作内容本身在往上移。

它带来的形态变化是:协作围绕智能体展开,人主要和自己的智能体沟通,跨岗位的事由智能体之间对接。组织图上不再是清晰的汇报线,而是一张网。

4.3 网络结构带来三个管理难题

不能只说好处。金字塔能用层级解决的事,在网络结构里没有现成路径:

  • 节点数量暴增:过去一个人一天产出几份材料;现在带几个 Agent,能产出几十条结论。谁审、审得过来吗?
  • 结果责任分散:一条结论由三个人加两个 Agent 接力产生,出错之后找不到责任人。
  • 口径不一致:同一个”高危”,三个岗位的 Agent 给出三个等级,处置优先级随之混乱。

此外还有三个代价和三个前提,必须提前想清楚:

三个代价——可审计性下降(协作发生在节点之间,追责找不到断点,要用依据链补回来)、责任边界模糊(一个智能体被三个岗位共用,必须有唯一 owner,且 owner 是具体的人)、单点故障被放大(底座一挂全网瘫,必须有降级预案并定期演练)。

三个前提——数据可用(数据不通,网络里流动的是噪音)、标准可写(标准写不下来,就各说各话)、授权可分(所有动作都回中心审批,网络又长回金字塔)。

所以政务的”网络”不是自由网络,是受控网络:中心仍然存在,但职能从”派活”变成”定规则、守底线、兜责任”。

4.4 我们自己的两张图:2026 与 2027

2026 年的 24 人,是典型的金字塔式流程分工——按 T1 执行、T2 研判、T3 管理三档能力分层,岗位按流程环节切分:技术管理、综合资产组、平台组(监控值班、研判、应急、运营优化、运营架构、安全运行)、技术组(渗透测试、代码审计、攻击溯源、安全研究)。

其中 6 个人被排进值守轮转:2 人日班、4 人晚班(2 人轮班)。这 6 个人是整条链上最贵的一段——不是因为工资高,而是因为他们的产能被”在场”锁死了。

2027 年的规划换了一套语言:管、守、造、攻。

岗位结构演进

真正的变化在岗位名字里:

  • 监控值班岗 → SOC 岗 → 威胁狩猎岗:值守前移一层。人不再看屏,人只看”机器挑不出来的异常”;
  • 运营优化岗 → 智能体优化岗 → 智能体设计岗:调优对象从设备策略变成智能体。”优化”和”设计”是两件事——前者对着指标调,后者先决定这个智能体该做什么、不该做什么;
  • 渗透测试岗 → AI 红队岗:用 AI 去攻、用 AI 去复核,人转向设计攻击面和判断结果的可信度。

这张图里最值得注意的,不是新增了哪些岗,而是哪些格子是”未覆盖”的。SOC 岗、威胁狩猎岗、智能体优化岗、智能体设计岗、AI 红队岗——这些岗位在 2026 年的编制里根本不存在,2027 年却要占掉相当一部分人力。

这说明一件事:组织已经开始为”造”和”管智能体”付编制了。而这恰恰是从金字塔走向网络的关键一步——网络需要”路由器”,智能体设计岗和优化岗就是这个路由器。

但要提醒一句:如果只是把”值班员”改名叫”SOC”,关系还是金字塔。 真正的分水岭是三条:每个岗位是否真有自己的智能体;跨岗协作是否有一部分由智能体直接对接;人开会时讨论的是”信息同步”还是”分歧裁决”。

4.5 组织架构也走同一条曲线

如果渗透测试岗的三代看得明白,组织架构的三代其实是同一个形状。

组织架构的三代演进

上一代 · 人海值守:以岗定人,靠排班覆盖 24 小时。产能 = 人头 × 在岗时长。经验长在骨干身上,人一走,能力归零。

当前 · 平台化分工:24 人,按 T1 / T2 / T3 三级梯队切分。产能 = 平台能力 × 人数。降噪靠设备,闭环靠人,瓶颈在人工研判。

规划 · 网络化协同:还是 24 人,但换成”管、守、造、攻”。产能 = 智能体并行 × 人的判断。经验沉淀为知识库与规则,排班从 6 人降到 2–3 人。

三列摆在同一个页面上,最容易看错的一点是:人数没变。 变化的是”产能从哪里来”这个假设——从人的在场时间,变成智能体的并行度乘上人的判断质量。

也因此,转型的验收不该看”减了多少人”,而该看”同样的人,产能换了一个来源没有”。

要提醒的是:三代之间不是替代关系。存量系统、老设备、历史工单会长期存在,双轨并行不是过渡期,是未来几年的常态。但投入方向必须清楚——每一笔钱要想明白,是在给旧体系续命,还是在给新体系建地基。


五、AI 原生怎么转型:三步走与五级成熟度

顺序是”认知对齐 → 组织调整 → 系统重构”,不能颠倒:先想清楚方向,再调整人和权责,最后才谈工具和产品。顺序颠倒的典型后果是:先建平台,再要求业务”用起来”——业务没有必须用的理由,最后回到”登录数三个月就下来”的结局。

5.1 第一步:认知对齐——四个关键判断

判断一:AI 要不要进入核心业务?

政务安全运营里,”AI 写材料”是最没有价值的场景——提效有限、风险最低、也最容易被替换。真正该问的是:AI 要不要进入研判、处置、上报这些承担责任的环节?

判断二:AI 是打补丁,还是重构流程?

传统流程的步骤数是按人的能力边界设计的:因为人一次只能看一条告警、记不住三千台资产,所以流程被拆成了很多小步。而 AI 一次可以看完全量告警、随时调取全部上下文——它不需要这套拆分。

拿着旧地图找不到新大陆。如果只是把”人工看第 3 步”换成”AI 看第 3 步”,本质是给旧流程打补丁。

告警处置流程对比

注意:新流程的第一步不是”重新做降噪”,而是”接住 XDR 已经挑出来的候选”。这是最容易被忽略的一条纪律——不要重复造轮子,增量在降噪之后。

省掉的不只是时间,是四次系统切换和三次人工传递——这些才是真正的成本。

判断三:AI 要不要参与对外交付?

对政务而言,”对外交付”就是向上汇报、对业务单位支撑、对上级监管报送。日报、周报、专项汇报、事件报告,全部是责任性文书。态度应该是:AI 起草、人签字,且每一句结论都能追溯到原始数据和研判记录。

判断四:AI 要不要成为新的能力底座?

如果 AI 只是几个工具,转型会在第一批人离职后归零。只有当智能体、知识库、评估集、规则集成为科室的”固定资产”,能力才是可继承的。

边界也要落成可查的文件,不能只做一次培训——讲清能做什么、不能做什么、哪些环节绝对不能交给它。

5.2 第二步:组织调整——把”可信不可信”落到岗位上

组织变革的目标不是新建一个”AI 科”,而是在现有编制内改变协作方式。

转型的最小组织结构

三条关键机制:

  1. AI 特区:先在一个小组、一个场景上允许”非标准流程”,跑通再推广。不要一上来就要求全科合规。
  2. 双人复核期:智能体上线的头 4–8 周,所有自动结论必须人工复核并记录”采纳/驳回”。这既是质量校准,也是信任建立。
  3. 驳回即训练:每一次人工驳回,都要标注原因,进入评估集。这是让智能体越用越准的唯一可持续机制——比调模型重要得多。

再往下一层,还有两件必须定下来的事:口径维护人与样本回流机制。前者保证”同一个高危只有一个等级”,后者保证”每一次复核都变成资产”。这两件事没有人,前面三条机制都会退化成一纸文件。

5.3 第三步:系统重构——从”买平台”到”长能力”

政务单位很少自研,习惯采购。但 AI 能力的特性是必须贴着本地数据和本地流程长出来,标准化产品很难直接可用。

可行的折中路径:

  • 底座买:态势平台、日志中台、资产系统、XDR 继续用成熟产品,不重复建设;
  • 能力长:智能体层基于本地知识库和本地评估集持续迭代,这一层必须自己(或与前置交付工程师共建)掌握;
  • 接口留:所有智能体的输出必须能被平台消费(工单、API、消息),不能做成孤岛。

判断一个 AI 安全产品是否值得投入,看三件事:能不能接我的数据、能不能解释它的结论、能不能被我的评估集打分。三条缺一条,就是黑盒。

还有一条工程纪律:在流程上切出”AI 节点”与”人节点”,按新链路重建,而不是在旧平台外面挂一个对话窗口。

5.4 五级成熟度:工具已经 L3,组织还在 L1

成熟度模型的价值不在于给组织贴标签,而在于指出下一个动作。同一个动作,在 L2 做是浪费,在 L4 做是必需。

五级成熟度阶梯

先说一个前提:成熟度是分层的,不能只打一个总分。我们真实的画像是——

  • 设备层:L3–L4。 XDR 的自动研判已经把降噪做到三个数量级,这是买来的成熟度;
  • 流程层:L2。 研判、取证、上报、归档还是人工串起来的,工具没有进主流程;
  • 组织层:L1。 没有 AI 先锋的角色、没有评估集、没有知识库、没有归属人。降噪带来的收益,没有变成组织的资产。

**”工具在 L3,组织在 L1”**,就是当下最真实、也最容易被忽略的处境。很多单位会误以为自己已经”AI 化了”,其实只是”设备很 AI,组织很传统”。

下面逐级说明,每一级都给出判断标准和升级动作。

L1 认知探索:AI 是个人的私事

  • 状态:有几个人在用大模型写材料、查资料、改措辞,用得很熟练,但只存在于个人电脑的浏览器标签页里。
  • 技术形态:通用大模型网页版,无集成、无数据接入、无留痕。
  • 组织形态:无角色、无流程、无授权。
  • 怎么判断自己在 L1:问一句”你的 AI 产出存在哪里”,答案是”我的桌面上”。
  • 这一级的真实价值:它在解决”敢不敢用”的心理问题,不是能力问题。
  • 卡点:个人效率的提升无法迁移给同事;同样的提示词换个人用就失效;出错时无人可追。
  • 升级动作:选一个最痛的重复劳动(通常是日报),把它的输入数据结构化一次。不是买工具,是把数据整理出来。

L2 试点验证:单点跑通,但仍游离在主流程之外

  • 状态:有一两个能演示、能用的东西,比如日报生成、告警摘要。领导来看时打开,日常还是老办法。
  • 技术形态:一个独立的小应用或脚本,接了一部分数据,可能还带着人工粘贴的环节。
  • 组织形态:有一两个”对 AI 感兴趣的人”在业余维护,没有正式职责。
  • 怎么判断自己在 L2:这个工具停用一周,业务基本不受影响。
  • 卡点:**”游离”是它的本质特征**。它不被流程需要,所以不产生组织价值;维护它的人一走,它就死。
  • 升级动作:不要急着做第二个场景,先把第一个场景塞进流程——把它变成”日报必须从这里出”,并指定唯一的责任人。

L3 流程嵌入:进入主流程,人开始为它负责

  • 状态:研判环节默认由智能体预筛并给建议,人确认;日报默认自动生成,人只做审阅和补充。工具停用一天,业务会卡住。
  • 技术形态:接入了主数据(资产台账、历史工单、情报、XDR 判据),输出能被平台消费(工单、消息),有置信度和依据字段。
  • 组织形态:出现了”AI 先锋”这个事实角色;有双人复核期;有驳回记录;有一份 200–500 条的评估集;有口径维护人。
  • 怎么判断自己在 L3:能说出”上周智能体判错了 3 条,错在什么地方”。
  • 卡点:这是整个阶梯上最陡的一级。绝大多数单位会在这里停很久,因为它要求三件事同时到位——流程改(去掉旧步骤,而不是新旧并行)、标准写(把口径变成可判定的规则)、责任落(有人签字)。这三件事都是组织动作,不是技术动作。
  • 升级动作:把”驳回”变成资产。每条驳回标注原因、归类、进评估集;每两周跑一次回归,看新版本有没有把老错误带回来。

L4 规模扩展:多场景统一编排,指标可量化

  • 状态:研判、取证、处置编排、报告、资产核查五类场景同时在线,且互相调用——研判的结论直接进入处置建议,处置结果回流成知识。
  • 技术形态:有编排层、有统一知识库、有模型路由与降级策略、有全链路留痕;关键动作有回滚路径。
  • 组织形态:出现智能体优化岗(对指标负责)与智能体设计岗(对场景边界负责);每个智能体有唯一 owner;有月度效果评审。
  • 怎么判断自己在 L4:能回答”这个智能体上个月省了多少工时,误判率多少,成本多少”。
  • 卡点:边际收益开始下降,治理成本开始上升。智能体越多冲突越多(同一条告警被两个智能体判成不同结论),知识库越容易腐烂(过期资产、废弃 IP 段还在里面)。
  • 升级动作:从”做更多智能体”转向”做更好的治理”——知识库版本化、口径冲突仲裁机制、成本核算。

L5 业务重塑:运营模式本身改变

  • 状态:人力结构、SLA 承诺、采购计价方式随之改变。值守从”三班倒盯屏”变成”一个异常响应组”;合同从”人天”变成”结果与 SLA”;新人培养周期从 6–12 个月压到 1–2 个月。
  • 技术形态:智能体工厂——新场景两周内能出原型,模板、工具链、评估集标准化。
  • 组织形态:分析师的头衔没变,但工作内容从”看告警的人”变成”定义判断标准的人”;组织图从金字塔向网络过渡。
  • 怎么判断自己在 L5:敢签一份以结果计价的合同,并且敢让一个新人在两个月内独立值班。
  • 卡点:阻力不在技术,在制度——编制怎么定、预算怎么列、责任怎么分、审计怎么认。
  • **这一步没有”升级动作”,只有”制度重写”**。

补一个岗位:AISOC 工程师

L2 到 L3 缺的那个”对可信度负责”的位置,落到岗位上叫什么?

在政务场景里,可以叫 AISOC 工程师;在企业语境里,常被称作”AI 业务协同师”。放到安全运营中心,他的产出物只有一个:研判结论的可信度。

四件事:

  1. 维护研判规则与知识库——预案、等保要求、历史案例,整理成 Agent 可用的条目;
  2. 标注样本、校准口径——抽检 AI 输出,确认攻击、标为误报、修正级别;
  3. 复盘误报漏报——按月复盘,说明哪类被漏、哪类过度告警,规则怎么改;
  4. 承接一线反馈——判断是规则问题、数据问题,还是使用问题。

关键的一句是:这个岗位与现有岗位是”横穿”,不是”替代”。 他不替代值班岗、SOC 岗、资产岗,而是穿过这些岗位,对”AI 这一段产出是否可信”负责。

任职要求也不高:懂安全运营即可,不必是算法工程师。 这一点很重要——如果这个岗位要求”会训模型”,绝大多数单位根本配不出来,L3 就永远跨不过去。

关于自我定位的一个提醒:不要因为设备很聪明就高估自己,也不要因为组织很初级就低估起点。设备层的 L3 是买来的,随时可能被换掉;组织层的 L1 才是自己的,只能一级一级往上爬。


六、实际解决方案:AI SOC 的参考架构

6.1 四层架构

AI 安全运营的四层架构

顺序上,永远先做最下面一层,再谈智能体。 一个常见误区是先买大模型平台,结果发现资产台账还是三张 Excel、日志还在各自设备里,智能体什么也关联不上——准确率自然上不去。检索增强类应用答不准,七成以上根因在数据与检索,不在模型。

三个技术前提要先立住:统一数据底座(资产、日志、漏扫、情报、工单打通并标准化,做脱敏与权限隔离)、私有化模型底座(数据不出域)、审计与权限分级(读取范围按岗位授权,输出全部落日志)。

6.2 五类优先建设的智能体

五类优先建设的智能体

排序依据是一套很朴素的三问:这件事频次高不高?标准清不清、允不允许错?有没有现成数据可喂? 三问都过,就做;有一问答不上来,就先别做。

要特别说明第一位:不是再做一遍降噪,而是接管降噪之后的那几百条。 每条给出定性、依据链和取证截图,让人从”查资料、拼上下文、截图存档”里解放出来,只做最后的判断和签字。

而”并联”这两个字,是这类智能体与普通问答机器人的分水岭:它要能同时拉齐技术(日志、流量、漏洞)、资产(归属与业务属性)、监测(同类告警与历史处置)、沟通(谁在等这个结论、要报到哪一级)——不是一个个查,是一次性拉齐。这才是闭环效率的来源。

6.3 切割 AI 节点与人节点:三类的颗粒度要可执行

架构讲完,落地时最难的其实是一个动作:把流程切成”AI 做”和”人做”两类节点,切到可以写进制度那么细。

第一类,可以交给 AI,人只做抽检:告警去重与降噪、多源日志关联、资产台账核对与异动识别、漏洞整改台账与报告初稿、制度与预案问答。判断依据:错了能立刻发现,后果可回退,不涉及对外发布。

第二类,AI 出结论,人必须复核后才能流转:攻击溯源路径建议、事件等级初判、工单分派与回执催办。判断依据:影响处置优先级,但仍在内部闭环之内。

第三类,一律人工,AI 只提供参考:隔离资产、封禁 IP、变更安全策略、重大事件定性与对外上报。判断依据:一次误判造成业务中断或对外口径错误,责任无法回退。

这三条不是拍脑袋分的,背后是两个维度:能不能撤回、影响面多大。

分级授权矩阵

6.4 三个”必须有”与验收口径

可解释:每条结论必须附”我依据了什么”——命中的规则、比对的资产、引用的情报、相似历史工单。没有依据链的输出,在政务场景等于无效输出。

可回退:任何自动动作都要有回滚路径,且回滚可一键执行。封禁 IP 要能解封,隔离终端要能恢复,策略变更要能回滚。

可审计:谁、在什么时候、基于什么输入、由哪个模型版本、输出了什么、谁复核、结论如何——全链路留痕。三条硬约束再加两条:能力可一键关停、口径变更留痕可回溯。

验收上有一条可以照搬的经验:启动前不预设 ROI、准确率或节省比例,而是共同确认业务基线和观察周期,只有真实结果达到约定才进入下一阶段。

六个可验收的指标

这里有个陷阱要避开:别再把”告警压缩率”当成绩。 那一段是 XDR 的功劳,再优化也是小数点后。要考的是压缩之后的事——研判准不准、快不快、闭环没闭环、有多少是机器自己处置完的。


七、政务网络安全场景的落地路径:三期走

三期落地路线

第一期(0–3 个月):把”研判”变成可复用的过程

目标:不改流程、不动授权,只做”看得见的效率”。这一期的关键词不是降噪,是结构化。

  • 选场景:降噪后 300 条的研判与取证(高频、有标准、有数据);
  • 数据:近 6 个月的告警、研判记录、处置工单、资产台账、XDR 判据口径;
  • 人:1 名骨干分析师(AI 先锋)+ 1 名前置交付工程师;
  • 动作:建 200–500 条”告警—结论”评估集;把研判过程拆成可执行的步骤(查资产 → 查情报 → 看历史 → 定性 → 取证 → 写结论);
  • 验收:单条研判从 5–10 分钟压到 3 分钟以内;结论可用率 80% 以上;零误判事件;
  • 红线:只给建议,不触发任何自动动作。

这一期的真实价值不是省了多少时间,而是积累了两样资产:一份评估集,一份知识库。没有这两样,后面所有迭代都是玄学。

第二期(3–9 个月):处置编排,做”半自动闭环”

目标:让 AI 从”会判”变成”会做”,但每一步都可撤回。

  • 研判环节:人只看 Top N 与全部高危项,其余直接采纳建议;
  • 处置环节:低风险可回退动作(封禁单 IP、隔离单终端、禁用账号)走”建议—一键确认—自动执行—事后审计”;
  • 编排环节:跨设备联动(XDR 判据 → 防火墙/阻断器 → 工单 → 通知),把 4 次系统切换压成 1 次;
  • 报告环节:日报、周报、专项汇报模板化自动生成;
  • 组织:设立”双人复核期”,把 AISOC 工程师的岗位职责写进岗位说明书,而不是只写在 PPT 上。

验收:研判准确率 ≥ 90%;单条研判 ≤ 2 分钟;自主处置占比 ≥ 30%;误封率不高于人工水平;全链路可审计。

第三期(9–18 个月):主动运营,把能力留在组织里

目标:从”等告警”变成”找异常”,从”用别人的智能体”变成”自己能造智能体”。

  • 威胁狩猎:基于本地资产与业务语义,主动提出假设、批量验证,把长尾风险提前发现;
  • 智能体工厂:场景模板、工具链、评估集统一管理,新场景 2 周内可上线原型;
  • 知识资产:研判口径手册、处置预案库、历史事件复盘库,全部结构化可检索;
  • 人才与计价:分析师从”看告警的人”变成”定义判断标准的人”;采购从”人天”转向”结果 SLA”;
  • 排班重构:值班从”6 人轮班盯屏”转为”2–3 人异常响应 + 智能体 7×24 值守”。

验收:成熟度进入 L4;自主处置占比 ≥ 50%;新场景从提出到可用 ≤ 2 周;核心能力不依赖任何单一厂商或单一员工。


八、边界与红线:政务场景不能交给 AI 的六件事

AI 原生不是”AI 万能”。以下六类决定,必须由人承担最终责任:

  1. 事件定性——是否构成网络安全事件、是否需上报,涉及责任认定与公共影响,必须人签字。
  2. 涉敏数据处置——涉及个人信息、敏感业务数据的外发、共享、销毁,不做自动化。
  3. 不可回退的处置——核心业务系统下线、大范围策略变更、账号批量冻结。
  4. 对外通报与舆情应对——口径即政治,不做自动生成直接对外。
  5. 合规结论——等保测评结论、密评结论、整改是否达标,不能由模型给。
  6. 跨部门协调——涉及委办局责任划分的沟通与博弈,AI 只能准备材料。

三条数据红线

  • 不出域:模型私有化部署,敏感数据不出政务网;通用大模型只处理脱敏后的公开类信息。
  • 分级分类:按数据分级决定可用的模型与场景,敏感级别越高,人工环节越多。
  • 全程留痕:输入、输出、模型版本、复核人、结论,全部落日志,满足审计与监管检查要求。

幻觉的工程解法

不指望模型”不说错”,而是让错误不可能被无声采纳:检索增强、答案必须引用本地知识库原文;强制输出置信度,低置信度自动转人工;关键字段做规则校验(IP、域名、资产编号必须能对上台账);一定比例抽样人工复核;每一条结论可追溯到依据——人看的是”依据”,不是”结论”。

还有一个容易被忽略的攻击面:当 AI 开始读日志、读工单、读邮件,这些内容本身就是攻击者可控的输入。 专门骗”验证智能体”放行的样本一定会出现。所以验证环节必须有确定性检查兜底,不能只靠模型互审。


九、度量:转型是否真的发生

只看五个数:

  1. 单条研判耗时是否从 5–10 分钟压到 2 分钟以内;
  2. 自主处置占比是否从 0 走到 30% 以上;
  3. 误封率/漏判率是否不劣于人工;
  4. 新场景上线周期是否缩短到两周内;
  5. 骨干离职后能力是否留存(用”新人独立值班所需时间”衡量)。

第五个数最容易被忽略,但它才是 AI 原生与”买了几个工具”的分水岭。

还有第六个数,是组织形态层面的:跨岗协作中,有多少比例是智能体直接对接完成的。这个比例从 0 走到 30%,比任何”效率提升百分比”都更能说明组织真的在从金字塔变成网络。

再加一个”反向指标”,防止自欺:安全债是否在减少——未闭环的低危、未复盘的告警、没写进台账的处置,存量是升还是降。AI 用了半年,安全债还在涨,说明只是把活干快了,没有把事干少了。


十、总结

回到最初的问题:为什么要走 AI 原生?

因为我们已经证明了一件事:AI 能把量压下来。 32 万到 300,XDR 做到了。但我们也看到了另一半:这 300 条仍然需要 6 个人轮班、逐条研判、逐条写结论、逐条上报。如果只停留在这一步,AI 帮我们省下的是”看屏幕的时间”,而不是”判断的时间”。

而判断的时间,才是这个岗位真正贵的地方。

AI 原生的真正难点从来不在模型。模型会越来越强、越来越便宜,这是确定的。不确定的是:组织愿不愿意把”人做机器的事”这个习惯改掉,敢不敢把判断标准写下来、把授权边界划清楚、把经验从人脑搬到系统里。

行业里有一句话,在制造业和机器人领域都被反复验证:最难的不是从 0 到 1,而是最后那 1%。政务安全运营的 AI 转型也一样——做出一个能演示的智能体很快,让它 7×24 稳定地、可解释地、可审计地跑在真实告警流上,才是那最后的 1%。

而那 1%,恰恰不靠技术,靠组织。

从金字塔到网络,从”人在流程里跑”到”人在网络上定规则”——这不是一次工具升级,是一次组织重写。

而且有一条界限要划清楚:执行可以全部交给 Agent,治理交不出去。 出了事签字的是我们,不是模型厂商,也不是智能体。正因为签字的是我们,红线才必须我们划,验收才必须我们做,放权的开关才必须握在我们手里。

治理,就是责任落到工程上的样子。