12月1日,财联社记者付静报道,豆包手机助手技术进行了首发,这引发了市场的高度关注,据悉,搭载豆包手机助手技术预览版的中兴通讯努比亚M153(000063.SZ)已开启少量发售,同时,豆包正在和多家手机厂商推进合作落地计划。
在被称作AI Agent落地元年的2025年的时候,华为出现了,荣耀出现了,OPPO出现了,vivo等厂商也纷纷现身,它们在最新旗舰机型里注入了AI Agent能力,此次豆包手机助手技术预览版发布了,这顺应了上述这一趋势。然而,财联社记者通过采访得知,当前部分AI Agent借助滥用无障碍权限等技术手段跨越了应用边界,其中不乏出现大规模数据采集等行为,甚至结果导致用户隐私像“裸奔”一样 。
专家将这一现象称作“侵入式AI”,原因是其技术属性和传统侵入式软件类似。更值得留意的是,此前“黑灰产”利用无障碍权限开展了验证码自动采集、抢票购物自动化等操作,这引发了多方的担忧。
无障碍权限已带来风险
拥有比普通App更高系统权限的手机系统内嵌AI Agent,它能跨应用执行复杂指令以完成复杂任务,与目前“智能手机+大模型/AI应用”的体验相比有大幅提升。就在豆包手机助手技术首发之前,有媒体援引知情人士消息报道称,字节、中兴合作的AI手机核心差异化在于高权限Agent能力 。
然而,财联社的记者察觉,无障碍权限致使安全风险出现的这种状况,已然颇为常见。
比如,在近期,有多位网友于社交平台表示,有部分高校要求去做下载的一款App居然要求用户开启极高的权限。网友进行“吐槽”的时候说过,“在每次启动这项App的时候,都要先把淘宝、京东、拼多多等各不相同的软件全部都浏览一遍;这个软件竟然操纵过我的手机,自行跳转页面去开启权限。”。
有“黑灰产”利用无障碍权限达成验证码自动采集、抢票购物自动化等操作,北京汉华飞天信安科技有限公司总经理彭根告知财联社记者,“这类AI操作路径恰似人的程度非常高,传统反制手段很难辨别。”。
陆俊秀,走出去智库的总经理,同时也是高级合伙人,他觉得,AI代理可不是那种单一的软件工具,它构建起了一整个完整的智能化用户行为替代系统,在这里面,其威胁已经超出了仅仅只是单纯的权限滥用的范畴。
那么,前述“高权限Agent能力”是否存在隐私安全风险?
能从财联社记者查得了《豆包手机助手白皮书》这一情况,知晓豆包手机助手按规则设计,此规则为授权同意、最小必要、用户可控原则,且其表明不会凭借用户敏感数据去训练模型 。
然而,值得予以留意和重视的是,依据《白皮书》所描述的情况,豆包手机助手于手机本地位置部署了一部分AI模型,这其中主要涵盖了OCR模型、文本向量化模型、命名实体识别模型、内容识别模型、多模态大模型等等,借此达成数据仅于设备本地开展处理的高敏感隐私数据保护功能。也就是说,除去该部分模型是在端侧进行处理之外,其他的操作都是在云端予以实施的。那么,是不是用户在给出指令之后就丧失了掌控权呢,或许还需要进一步去加以确认。
“沙箱”机制遭到突破
陆俊秀向财联社记者讲,超出已获授权范畴,运用非常规办法的AI Agent,实际上冲破了传统App的“沙箱隔离”机制。

依照公开呈现的信息可知那一点,所谓沙箱(音译为Sandboxing)乃是一种特定的事物,可以说是起到隔离作用的,针对正在运行着的程序而设的安全构造,其目的在于对不可信的进程或者不可信的代码。在运行期间让那种代码运行的时候,去限制其访问的权限。
根据沙箱机制,操作系统给每个App划分了独自的空间以及区域,App之间的数据彼此无法读取,然而要是无障碍权限被开放,这一隔阂便被打乱了。
此外,彭根进行介绍,和传统脚本依靠程序员去编写代码存在差异,AI Agent不需要代码就能自行规划任务,还能够执行操作,甚至在夜间的时候可以自动运行,达成了从“人手操作”到“自动化操作”的本质性转变。
据了解,无障碍权限是安卓在早期阶段就已存在的权限,其一开始的目的是在于为残障人士以及老年人提供辅助功能,然而随着技术不断地进行迭代,现如今部分的手机根据无障碍权限能够自动地去完成App权限开启、与关闭之类的操作 。
手机中,AI Agent是靠着何种门道借助无障碍权限实施“侵入”行为的呢?依规据此前那些媒体所做的相关报道,当下于行业范围之内存在着两种关键主流方案,其一乃是屏幕识别再叠加上模拟点击,其二则是屏幕识别再加上执行意图框架官方接口(或者类API)调用。于此之中,“屏幕识别 +模拟点击”此一方案是更具有通用性的办法,等到AI Agent读取完屏幕当中的信息之后,便会模拟人使用手指作出相应操作 。
彭根谈到了两点关键的风险情况,其一,是权限不存在限制地向外扩展,那种没有阻碍的权限归属于系统层面的整体权限范畴,一旦予以开启,那么便会拥有对设备进行彻底操控的权力;其二是行为主体变得不清晰,人工智能成为了实际进行操作的主体,用户有可能会丢失对设备的直接掌控权还不算,而且它的操作速度远远超过人类的反应速度,就像短信验证码可能在用户还没有查看之前就被人工智能给获取到了。
AI Agent引发治理难题
财联社记者获悉,“侵入式AI”也引发了法律与治理难题。
浙江理工大学数据法治研究院的执行院长郭兵,向财联社记者讲,当下在业内,对于无障碍权限的运用,依旧存在着争议,他举例子说:广东省标准化协会明确地禁止智能体借助无障碍权限去操作第三方App,然而中国软件行业协会的最新标准,则是弱化了限制,着重强调用户能够进行控制。
他另外宣称,鉴于存在潜在的商业利益方面的冲突,AI Agent运营方和第三方App之间的不正当竞争的案件,有可能会在任何时候出现。
对照国外案例来讲,公开呈现的信息表明,亚马逊有过起诉Perplexity AI的行为,指控它的AI助手Comet,在没有将身份予以披露的情形下,代表用户于亚马逊平台购物,这一行为违背了服务条款。亚马逊指控Perplexity违反CFAA(也就是《计算机欺诈与滥用法案》)、平台规则,还造成了商业损失,可Perplexity却宣称自己是“被用户授权的代理人”。
另外,陆俊秀表明,传统机器人是基于固定脚本的,而AI Agent的能力在持续地扩展,其混淆、加密等反追踪技术也加大了监管的难度。
“用户授权AI有着在不同App之间迁移数据这样的行为,这种行为有可能引发在《网安法》之下的数据保管责任边界方面的争议,而这是急需法律层面进行回应的情况。”彭根作出了表示 。
凭所知悉,伴随技术的不断演进,“侵入式AI”的风险以及治理方面的难题将会持续发生演变。然而多位接受采访的人员表明,权限的边界线和授权机关将会是治理的关键核心所在,在未来需要去设计出动态授权啦,双重授权啦等核心保障性的机制。


Copyright C 2025 All Rights Reserved 皖ICP备2024052706号-7
地址: EMAIL:1210524564@qq.com
Powered by PHPYun.