观点

封冰清:企业Agent怎样在安全边界内持续运行

封冰清谈企业Agent的安全边界:用合同脱敏、内容审核、跨天任务三个场景,讲清权限、确认与恢复怎样放进同一套机制。

分享首页与企业Agent操作系统的四层架构

9月11日,数美科技在北京举办“智创无界 安全为基——Agent安全系列闭门沙龙”,超序AI创始人兼CEO、花椒直播CTO封冰清以《企业Agent操作系统——真实业务交付、持续运行与安全治理的规模化体系》为题分享,这也是超序AI第一次正式对外亮相。分享讨论的核心是:Agent进入真实业务后,怎样把权限、人工确认和中断恢复放进同一套运行机制。围绕合同脱敏、内容审核和跨天任务三个场景,他进一步谈到了具体做法,这三个场景都来自花房集团内部的Agent实践。

四层架构:应用入口、企业治理、运行内核、工作环境

四层架构概括了封冰清团队建设这套系统的方向:应用入口承接工作,企业治理明确规则与责任,运行内核保存进度、组织执行,工作环境连接原有系统,安全约束贯穿其中。这套四层结构,与超序AI的企业Agent运行与治理平台「超序中枢」(企业AI应用的统一入口与运行底座)分层一致。

封冰清说,“责任不会因为用了AI就消失”,系统得让同事看清AI做过什么、哪些地方需要确认、出问题时怎样接手。

合同脱敏:先控制数据外发,再谈识别效果

第一个场景是封冰清团队做的法务工作台里的合同脱敏功能。只看识别效果,技术路线很容易定成把整份文件交给外部模型去找敏感信息,封冰清不接受这个顺序:

模型判断得再准确,也不能撤回已经发出去的数据。

——封冰清

因此工作台采用本地规则优先,同时提供内网模型辅助识别;需要外部模型补漏时由使用者单独确认,发送的也只限于经过遮蔽处理的文字。原则是能用规则稳定处理的优先交给规则,需要理解上下文的再让模型参与;每多一次模型判断,都要衡量它解决了什么,又增加了多少数据暴露与校验维护成本。

花房集团内部法务工作台的合同脱敏界面(已脱敏)

人工复核同样要设计。系统若只给一个“处理完成”的文件再让人点确认,复核者仍得从头检查,“模型几秒钟完成的事情,可能把半小时的核对工作留给了后面的人。”为候选定位、取消和补漏多花工程成本,是因为确认责任必须有相应的信息和操作来支撑,否则一个确认按钮很容易只完成责任转移。

内容审核通过,不等于获得业务授权

封冰清介绍,在花房集团内部的平台层面,他的团队已把员工输入、AI生成的文本和图片接入数美科技的审核服务:输入进入Agent之前检查一次,生成结果进入业务之前再检查一次。但内容审核只给出风险判断,企业还要决定内容怎么用:审核没发现问题,不代表发起人有权读取所有合同,更不代表AI可以替法务确认最终版本。

封冰清因此提出,Agent的授权必须落到具体业务动作上:代表谁、访问哪份材料、准备做什么。企业接入Agent时,必须把发起人、执行身份和原系统授权接起来,不能只验证接口是否调用成功。

分享中的审核矩阵——内容敏感度与业务后果

审核矩阵把判断放在两个维度上:内容是否敏感,结果会影响到哪里。他不赞成把所有场景都调到最严,控制要跟着动作的影响走:内部草稿可以留出探索空间,准备外发或修改业务数据就要检查权限和确认条件。还有一条容易被忽略:审核服务没返回结果,也不能被当成审核通过,系统要明确表达“条件尚未满足”,后续步骤才不会把一次异常误当成放行。

跨天任务:停得下来,接得上,不重复做

把人工确认放进流程,就要接受人不会一直坐在对话框前。如果任务只能在一次会话里完成,人工审批就会变得尴尬,反过来诱导团队绕过确认步骤。

架构中的Agent Runtime运行内核为此而设:记录任务使用的配置、工具返回的结果,以及审批、中断等事件,再据此重建状态;任务创建时的配置被固定下来,后台后来修改配置也不会直接改写已有任务。封冰清看重这个设计,“是因为一项工作的寿命应该独立于聊天窗口”,靠已经发生的事件而不是聊天记录来确定任务走到哪一步。

跨天长任务的运行过程与需要保存的任务事实

恢复之后还有一个问题:刚才的动作能不能再做一次。一个提交动作发出去后连接断了,究竟是没执行,还是执行成功只是回执没回来?没核对清楚就重做,可能重复提交。所以恢复逻辑必须处理“结果未知”这个状态:能向业务系统核对的就核对,并检查继续执行是否仍在授权范围内;核对不了,就保留不确定状态交给人处理。

结论:模型判断下一步,执行权限与完成依据由企业系统掌握

三个场景指向同一条架构边界。封冰清提出:

模型可以判断下一步怎么做,执行权限和完成依据必须由企业系统掌握。

——封冰清

合同里哪些内容值得关注,可以让模型辅助判断;原文能否外发,要由数据规则和授权控制;模型可以提出继续执行,系统仍要核对审批、动作和结果。这些约束要落实在数据访问、工具调用和状态管理里,“只写进提示词,不能承担同样的责任。”

企业需要一套稳定机制,回答谁在操作、可以做到哪一步、已经发生了什么、最终怎样验收,这也是封冰清团队把应用入口、企业治理、运行内核和工作环境放在一起建设的原因。“安全治理能力,是扩大Agent自主执行范围的前提。”系统守住权限、状态和结果核验,人的判断放在目标、例外和关键风险上,企业才有依据把更重要的业务交给Agent。封冰清也提醒,内部能用,换一家企业能否适配、交付成本能否接受,仍要重新验证,这是超序AI把内部实践做成产品和服务时必须回答的问题。超序AI以咨询与陪跑、定制一条流程、部署「超序中枢」三种方式与企业合作。

合作起点

从一项真实业务开始

告诉我们你正在面对的业务问题,我们将共同判断哪些环节值得由AI承接,再确定实现方式、实施边界和第一阶段目标。