从17.3%到40.3%:企业Agent跑得越快,越需要一层安全底座

从17.3%到40.3%:企业Agent跑得越快,越需要一层安全底座
企业AI Agent的采纳率在上升,真正的考验也开始后移:从“能不能跑通Demo”,转向“能不能在真实业务里受控执行”。当Agent开始调用工具、访问文件、运行脚本,安全边界就不能只靠提示词维持。

企业AI Agent正在从试验项目进入正式采购和平台建设。

采纳率从2024年底的17.3%,上升到2026年中的40.3%,背后不是一个简单的热度变化,而是企业对Agent的角色预期变了。

它不再只是创新团队里的演示能力,也不只是员工工作台上的问答入口。越来越多企业开始希望Agent接入内部流程,处理更具体的任务,连接文件、接口、工具和业务系统。

但在ToB软件场景里,采纳率提升不代表生产级成熟。Agent能在演示环境里跑通,和它能进入真实业务流程,是两件不同的事。

Agent不是聊天窗口,而是执行单元

过去很多AI应用更接近问答入口。员工输入问题,系统返回答案,最终由人判断是否采用。即使结果不够好,也可以用人工复核兜底。

Agent的变化在于,它会产生动作。它可能调用工具,运行代码,读取文件,访问接口,还可能把一个任务拆成多个步骤持续推进。对企业来说,这已经不是一个简单聊天窗口,而是一个会执行任务的软件单元。

Agent越接近真实业务,企业越需要问清楚:它运行在哪里,拿到了什么权限,访问了哪些资源,执行过程能不能被追溯。

很多Agent项目停在Demo阶段,未必是模型能力不够。Demo可以用测试数据,可以临时授权,也可以让工程师在旁边盯着。正式上线后,这些办法都不能长期使用。

管住入口,不等于管住执行

企业引入AI时,往往会先管账号、费用、模型和使用范围。这些事情有必要,但解决的多是入口问题。Agent真正复杂的地方,发生在它进入任务之后。

一个员工能打开Agent入口,不代表Agent可以继承这个员工在所有系统里的操作能力。人在页面里操作时,系统本身会给出流程、按钮和岗位约束;Agent通过工具和接口执行时,如果缺少运行时限制,权限边界反而会变得模糊。

这也是企业级Agent和个人助手的差别。个人助手可以更多依赖用户判断,企业级Agent则要接受平台级约束。什么任务可以执行,什么资源可以读取,什么动作需要确认,什么调用要被拦截,都应该由系统规则决定,不能靠提示词临时约定。

生产级Agent需要三道边界

第一道边界是执行隔离。Agent生成的脚本、临时任务和工具调用,不能直接在员工电脑或业务服务器上裸跑。执行环境需要限制目录、进程、网络和系统资源,避免一次异常执行影响宿主环境。

第二道边界是策略约束。Agent能不能联网,能不能读取某类文件,能不能调用某个内部接口,应当由企业策略决定。提示词可以描述任务目标,但不能承担安全边界。

第三道边界是审计留痕。一次任务由谁发起,进入了哪个执行环境,调用过哪些工具,命中了什么策略,最终输出了什么结果,都要形成可查询记录。

没有这些记录,Agent越自动化,后续问题越难定位。对金融、政务、医疗等行业来说,执行过程可追踪,往往比单次效果展示更接近生产要求。

FinSafe补的是执行安全底座

凡泰AI的FinSafe,更适合被理解为面向企业Agent的安全执行底座。

它不替代大模型,也不替代企业已有业务系统,而是把Agent产生的执行动作放进受控环境中处理。企业可以先把代码执行、工具调用和资源访问这些高风险环节收进统一边界,再逐步扩展Agent能处理的任务范围。

很多企业不能直接依赖公有云FaaS,也未必愿意为了每个Agent项目建设完整Kubernetes集群。FinSafe强调在既有Linux服务器环境中提供轻量化隔离能力,让企业在现有基础设施上补齐运行时管控。

这类底座的价值,不是给某个Agent单独加一个安全开关,而是把执行安全做成统一能力。不同Agent可以运行在同一套受控环境下,企业可以集中定义策略,也可以通过统一日志查看执行过程。

采纳率之后,企业会重新评估基础设施

Agent采纳率还会提升。模型会变强,工具会变多,业务部门也会提出更多使用需求。但对企业来说,真正决定Agent能不能长期运行的,往往不是最前面的交互体验,而是后面的执行边界。

效果验证通常看模型能力和场景匹配度。生产运行要看的东西更多:身份、权限、会话、执行环境、日志、异常处理和审计。前者决定项目能不能被看到,后者决定它能不能进入生产系统。

FinSafe面向的正是这个阶段:让Agent在企业内部执行任务时,有边界、有策略、有记录,也有继续扩展的工程基础。

只有执行过程可控,Agent才更有机会从试点走进生产系统。

Read more

DeepSeek Harness 安全运行测试,看看是否可以突破系统限制,成为“破坏性Agent”

DeepSeek Harness 安全运行测试,看看是否可以突破系统限制,成为“破坏性Agent”

把工作交给AI,越来越像给同事交代一句话。写个脚本,把几份表格汇总,开发一个小工具,再把视频剪出来。聊天窗口里,Agent列出计划,运行工具,交回结果。 用户看见的是完成后的文件,电脑执行的却可能是几百行临时生成的代码。很多操作绕过了熟悉的图形界面,直接由脚本调用系统接口。用户没见过某个设置页面,也可能已经授权Agent启动了一个有能力修改它的进程。 那些代码打开过哪些进程,读写了什么,碰过哪些系统设置,大多数人不会逐条检查。看到Agent带着“沙箱”两个字,也很容易直接把它当成一道已经生效的保护。 FinSAFE百炼场公开了一组围绕DeepSeek Harness(DSH)的Windows对照测试。弹窗风暴、剪贴板替换和注册表配置删除,都能在里面找到实际请求、工具返回以及独立观测。本篇沿着这几组记录,看看一句话变成系统调用之后,电脑到底发生了什么。 同样的任务,执行权限决定电脑发生什么 这些测试把同一项操作交给普通DSH和受FinShield保护的DSH,观察两边结果。正式对照都采用Full Access模式,减少逐条命令审批,防护组额外加载FinSA

By Ricky
电脑装上AI Agent软件后,自带的沙箱真的能做好运行管控吗?

电脑装上AI Agent软件后,自带的沙箱真的能做好运行管控吗?

现在一台电脑装两三个Agent,已经非常常见。写代码时用一个,整理文件时换一个,还有的能直接打开应用、操作桌面。不少Agent自带沙箱,可以限制脚本访问哪些目录、连接哪些地址。可同一个Agent里,能拦住一条终端命令的规则,未必也管得到它用的文件工具和桌面操作。电脑上装了几个助手,还得分别看看它们的沙箱管到了哪里。 比如,你让Agent从报价表里提取产品名称和价格。表格打不开,它可以先查路径,也可能直接尝试改文件权限。你交代的还是同一个任务,电脑收到的却已经是一次修改授权的请求。Windows会根据发起请求的进程拥有什么权限,决定让不让它改。 接下来分享几组真实的Windows对照测试。测试人员用DeepSeek Harness(DSH)对专用样本发起操作,再比较普通运行和受保护运行的结果。有的文件内容一点没动,编辑权限却变了。有的配置从注册表里消失了。还有一次,用户复制的文字在粘贴之前就被换掉了。 文件原封不动,能改文件的人却变了 在SYS-02这组测试里,测试人员准备了一个样本文件,给Windows的Users组设了修改权限,再让Agent移除这条授权。普通组执行成功

By Ricky
员工自装Agent,企业用FinShield统一管控资料权限

员工自装Agent,企业用FinShield统一管控资料权限

作为企业IT管理部门,最近最需要关心的问题是,如何管理好员工使用的AI Agent的工具? 一方面是软件的负责程度,Agent时代不像过去的软件一样,可以公司统一采购下发安装,某个具体的功能全公司用一个软件就能实现,很容易就能够做到统一的管控,保证企业数据的安全; 另外更重要的一方面是,Agent的强大能力,每个Agent都能自己写脚本,绕过GUI页面直接修改底层的数据,本身很多员工就是电脑小白,对电脑的认知不足,经常容易在不经意间造成信息泄漏。 今天就分享一个免费的技术方案,详情可以见GitHub地址~ 以企业的场景为例: 一位售前同事跟进A、B两个项目,工作账号能打开两边的报价。准备A项目投标时,他把招标文件交给桌面Agent,生成响应初稿。这次任务用得上A项目的招标文件和公司模板,用不上B项目的报价。把整个网盘同步目录开放给Agent,就把B项目的报价也放进了Agent能访问的范围。 可以借助FinShield给员工和Agent分别设置访问边界。员工照常查阅自己负责的项目,桌面Agent通过FinShield启动后,按企业策略读取资料、写入结果。投标任务的权限可以很具

By Ricky
字节被曝拟限制外部AI访问内部资料,企业该管到哪一步?

字节被曝拟限制外部AI访问内部资料,企业该管到哪一步?

[[RYAN_FINCLIP_GHOST_IMAGE_01]] 据 11 月 3 日的媒体报道,字节跳动计划从 11 月起限制Claude、Codex等外部AI工具访问L4级代码仓库和飞书文档。 员工自购的账号也在报道所述的限制范围内。报道提到部分Seed使用场景例外。目前尚未找到字节公开发布的通知原件。 值得企业关注的是,报道把限制落到了具体资料上。一名员工有权限打开内部文件,通常是因为他需要用这份资料完成工作。把文件交给外部AI服务处理,多了一次数据传递,也多了一个处理方。哪怕用的是公司购买的账号,这次传递也需要有明确的授权。 资料交给AI之后,风险会走到哪儿? 在聊天框里粘贴一段合同,员工至少能看到自己交出去的内容。用了能读文档或代码的插件,实际送给模型的内容还可能包括工具自动带上的上下文。员工界面上只看到一句提问,公司却要知道请求里究竟包含了什么。 源文件从对话界面删掉以后,服务商侧是否仍有日志或其他副本,得看实际配置和服务条款。等出了问题才翻合同,往往连该找谁核对都要重新查。 还有一种暴露发生在公司内部。知识库如果用同一个高权限账号取资料,检索时又没按提问者的

By Ricky