智能体安全,为何苹果腾讯都盯上了?

近来,智能体安全成为全球大厂的焦点。 在国外,苹果在2026第三季度财报中提及,智能体可自主与内外部系统交互、执行或修改代码,还能发送信息、完成交易,存在越过权限的可能;在国内,腾讯发布了《WorkBuddy企业版安全白皮书》,强…

近来,智能体安全成为全球大厂的焦点。

智能体安全,为何苹果腾讯都盯上了?

在国外,苹果在2026第三季度财报中提及,智能体可自主与内外部系统交互、执行或修改代码,还能发送信息、完成交易,存在越过权限的可能;在国内,腾讯发布了《WorkBuddy企业版安全白皮书》,强调智能体可控、可溯、可管……

这意味着,安全已不再是智能体的选择题,而是商业化落地的必答题。

事实上,随着智能体能力突飞猛进,隐忧也浮出水面,相关的越界报道屡见不鲜,虽然当下没有造成严重的后果,但如何预防智能体失控的声量不断走高。

智能体安全,为何苹果腾讯都盯上了?

毋庸置疑,变强不是智能体的唯一答案。

安全,一直是经久不衰的话题。

在PC时代,主要攻击手段为木马病毒,有的是为了炫耀,有的是为了盗号、有的是为了整蛊、有的是为了破坏。

在互联网时代,主要攻击手段为C端的钓鱼攻击、B端的勒索攻击、挖矿攻击等,目的是全方位地搞钱,瞄准的是特定人群。

随着打击力度的加强以及云杀毒技术、网址安全检测技术、下载主动保护等安全技术的迭代,传统攻击与普通用户的接触路径被斩断。

以至于,当代年轻人对网络安全的态度颇为微妙,总感觉距离自己的生活遥远,在平日生活中感受不到安全软件的价值,甚至不乏“裸奔”上网。

万万没想到, 迈入AI时代之后,安全再度站到了C位 。

一方面,AI也可以被黑客利用。

大模型的能力越来越强、智能体落地日新月异,与人们的生活结合越来越紧密,随之而来的则是风险边界也在扩大。

譬如,OpenAI披露一个网络诈骗,不法分子用ChatGPT生成大量的假护照、股票购买确认单等伪造的图片,再进行“杀猪盘”式的恋爱骗局。

再譬如,Anthropic披露了一个网络现象,不法分子用智能体“崩老头”,用户并不知道聊天对象并非真人。

另外一面,企业对AI的要求更高。

过去,智能体比的是谁的模型参数更大、谁的模型算力更强;现在,比的是谁能真正深入企业的生产力场景、谁能真正满足企业的真实工作任务、谁能真正提升企业的生产效率。

在此过程中,企业既要求智能体可以在真实任务中连续工作,又要求智能体在连续工作的时候完全可控。

“阿尔法工场”表示:“一家银行部署智能客服,需要考虑客户信息是否安全;一家制造企业部署AI生产助手,需要考虑生产数据是否泄露;一家企业部署AI办公系统,需要考虑内部资料是否被模型误调用。”

不妙的是,传统安全在AI时代出现了水土不服。

传统安全对应的是传统攻击,不法分子选定目标之后,要通过各种手段一步步突破网络防护、主机防护、数据防护等保护屏障,最终攫取最高权限、盗窃敏感数据、窃取数字资产等,整个过程是由外至内的。

换而言之, 不法分子再厉害,也无法一上来就“中心开花” 。

问题在于,如今的智能体直连大模型,不法分子可以通过给智能体相关的文字命令,攻击门槛更低,甚至无需懂基础的安全知识。

需要注意的是,模型其实自带安全保护措施,但现实中不法分子的确通过记忆投毒、提示注入、内部劫持等非常规的手段绕过。

最典型的案例,就是前不久的币安交易所63亿美元加密货币盗窃案,不法分子先是利用虚假面试诱导币安一名工程师下载了带毒的软件,借此控制了该工程师的电脑,再以此为跳板劫持了劫持内部人工智能模型,最后发动了盗窃攻击。

一言以蔽之, 模型的软约束有用,但也容易被针对 。

AI Agent安全负责人柯灵杰表示:“AI安全面临的的挑战和传统安全挑战最大的区别是什么?我认为是数据和指令已经失去了分隔线。过去数据要变成指令,得利用代码漏洞;现在一段自然的文本,模型就会把它翻译成执行指令,攻击门槛从‘会挖漏洞’降到了‘会说话’,所有的安全防护归根结底就是要防止用户去说服模型干坏事。”

通俗易懂地说,AI安全的底层逻辑是可以从堡垒内部突破。

为了应对新变化,行业给出了三个解题思路。

其一, 强化模型安全 。

针对内容过滤、记忆污染、提示词风控等方面,可以优化模型的应对策略,从而大大降低被利用的风险。

甚至,OpenAI还推出新模型GPT-6 Cyber,主攻安全领域,帮助安全人员发现并验证数千个漏洞,涉及81个新Firefox漏洞、948个Linux漏洞等,反过来将短板变成长板。

公开数据显示,未启用部署安全提示时,GPT-6 Cyber在99.93%的情况下避免利用超出范围的服务;启用安全提示后,GPT-6 Cyber 100%避免攻击超出范围的服务,不至于被滥用。

GPT-6 Cyber的失控风险大幅下降

其二, 提升云端安全 。

AI重塑了安全坐标,云端安全的战略权重更大了,在这个关键点上做文章,可以拦截更多的非法攻击。

毕竟,大多数模型是部署在云端的,越来越多的企业将数据上云,在云端预防决策干扰、模型污染、数据窃取可以事半功倍。

Forrester副总裁Merritt Maxim表示:“自OpenAI在 2022 年底推出 ChatGPT 以来,更灵巧的黑客方案加速出现,加快了对尖端防御解决方案的需求。”

基于此,Google收购了Mandiant、Wiz等安全公司,意图打造一个安全的云平台,从而预防相关的安全风险。

其三, 全链路管控 。

随着智能体愈发强大,自主性也会水涨船高,如若没有全链路管控措施,依然可能被不法分子寻找到了突破口。

云安全专家李滨表示:“ 智能时代的安全防护不再是单点防御,而需要从信息流入、模型交互、数据保护、执行调用到全过程记录审计形成闭环,构建适应智能体时代的整体安全环境。”

值得一提的是,WorkBuddy就是全链路管控的典型案例。

眼下,WorkBuddy构建了“事前识别、事中拦截、事后恢复、全程留痕”四道防线,让用户放心用。

具体来看, WorkBuddy提供原生级沙箱,把文件读写与命令执行收敛在授权工作目录内,目录以外默认不可写,用户的行为可控;拦截与放行事件统一进入审计中心,管理端操作日志覆盖操作内容、操作人、IP、时间等六要素;敏感信息在输入框、工具返回、数据外发三个入口于本地完成识别,按允许放行、加密保护、拒绝三种策略处置,识别与脱敏全程不出网。

此外,腾讯云的AI Agent安全网关可对各类攻击进行层层拦截,阻止攻击者通过供应链投毒、终端入侵、提示词注入等方式绕过,智能体始终在预设的安全边界内运行。

总而言之, 智能体时代,AI安全不是可有可无,而是基础设施的重要一环,如若权限管控、数据隔离、沙箱保护等不到位,则可能出现难以估算的后果 。

从这个角度来看,智能体办事不难,难的是办好又安全。

THE END
免责声明:本站所使用的字体和图片文字等素材部分来源于互联网共享平台。如使用任何字体和图片文字有冒犯其版权所有方的,皆为无意。如您是字体厂商、图片文字厂商等版权方,且不允许本站使用您的字体和图片文字等素材,请联系我们,本站核实后将立即删除!任何版权方从未通知联系本站管理者停止使用,并索要赔偿或上诉法院的,均视为新型网络碰瓷及敲诈勒索,将不予任何的法律和经济赔偿!敬请谅解!
相关阅读
  • 京东物流陈佳:以AI和具身智能深度参与半导体智能物流升级

    京东物流陈佳:以AI和具身智能深度参与半导体智能物流升级

    11月12日,由中国电子信息产业发展研究院、中国半导体行业协会共同主办的第二十三届中国国际半导体博览会(IC China 2026)在北京国家会议中心开幕,同期举办第八届IC企业家大会(以下简称“企业家大会”)。京东物流相关负责人…

    2026年11月14日 11:27
  • 年会前瞻|小匠物联即将亮相2027中国AIoT产业年会,探讨从单品到全屋,智能体如何落地?

    年会前瞻|小匠物联即将亮相2027中国AIoT产业年会,探讨从单品到全屋,智能体如何落地?

    作为中国 AIoT 领域具有影响力的年度盛会,中国 AIoT 产业年会已连续举办六届。今年, 2027 中国 AIoT 产业年会暨创新私董会如期而至,将于 2026 年 11 月 27 日(09:00-12:00)在深圳柏悦酒店举…

    2026年11月14日 11:17
  • 我已经受够这些智能戒指了

    我已经受够这些智能戒指了

    从小米高管王腾到科技自媒体大V王自如,今年国内有越来越多的人瞄准智能戒指方向,这把火越烧越旺。 然而与此同时,整个市场也是泥沙俱下,里面既有实力型选手,也不乏一些浑水摸鱼的厂商。最近我发现有不少很离谱的智能戒指产品,下面给…

    2026年11月13日 9:02

栏目精选

  • 行业 智能体安全,为何苹果腾讯都盯上了?

    智能体安全,为何苹果腾讯都盯上了?

    近来,智能体安全成为全球大厂的焦点。 在国外,苹果在2026第三季度财报中提及,智能体可自主与内外部系统交互、执行或修改代码,还能发送信息、完成交易,存在越过权限的可能;在国内,腾讯发布了《WorkBuddy企业版安全白皮书》,强…

    34分钟前
  • 行业 1600+客户,覆盖200多个国家:这家会员企业凭什么做到全球“智联”?

    1600+客户,覆盖200多个国家:这家会员企业凭什么做到全球“智联”?

    当大模型、AI 智能体加速向终端硬件渗透,物联网产业不再仅仅满足于设备“连得上”,更追求设备“会思考、能协同、懂服务”,产业正式从万物互联走向万智互联的新阶段。我国移动物联网连接数持续攀升,早已进入“物超人”时代,海量智能…

    57分钟前

企业 更多

新品 更多