近期,开源AI智能体OpenClaw,也就是俗称的“龙虾”,其下载热度持续攀升,使用热度也持续攀升,这个智能体默认能获取较高系统权限,它可以依据自然语言指令,直接操控计算机终端。日前,工业和信息化部网络安全威胁和漏洞信息共享平台,也就是NVDB,国家互联网应急中心,也就是CNCERT,已发布相关安全风险提示。
3月15日,中国互联网金融协会发布了一份《关于OpenClaw在互联网金融行业应用安全的风险提示》,也就是所谓的《风险提示》,声称当下,互联网金融行业的线上化程度以及数字化程度是极高的,它会直接去处理客户的资金、资产、账户以及个人金融数据等等这些关键敏感信息。OpenClaw智能体,虽然它能够把工作效率给提升起来,可是其默认的那种高系统权限以及弱安全配置,是极其容易被攻击者加以利用的,会成为窃取敏感数据或者非法操控交易的一个突破口,进而给这个行业带来严峻的风险挑战。
博通咨询有一位首席分析师,他叫王蓬博,王蓬博曾对第一财经有所表示,近期有一个名为OpenClaw引发的开源智能体浪潮,这个浪潮目前持续呈现升温状态,然而当这股浪潮朝着金融行业涌去的时候,它的适配性以及可行性,却面临着十分严峻的挑战,在金融行业具有强监管、高风险、重责任这样的行业属性情况下,金融机构必须要保持高度的审慎态度,不适合盲目地去追随技术潮流。
数据、交易均存隐患
王蓬博称,金融行业的核心业务由授信、交易、风控、支付等环节构成,这些环节直接关联到资金安全、用户权益以及系统稳定,任何技术应用都必须将合规当作前提,把安全作为底线。而现阶段的开源智能体普遍着重于端到端的自动化执行,其运行的逻辑跟金融监管所要求的可解释性、可追溯性以及人工干预机制有着根本性的冲突。
互联网金融协会表明了OpenClaw于互联网金融领域身处的四大关键风险。其一,是资金出现损失的风险。风险给出的提示表明,OpenClaw已将多个处于中等危险等级与高危险等级的漏洞公开予以披露,攻击者能够借着这些漏洞或者诸如依据提示词实施注入等手段来获得设备的控制权力。与此同时,它所拥有的功能插件(Skills)缺失有效的便于社区进行安全审查的机制,已经出现了多起有着恶意性质的插件投毒方面的事件。于金融场景之中,这般风险或许会被利用来窃取网银密码,以及支付密钥,还有证券交易 API 凭证等敏感信息,接着登录网上银行,再登录证券交易系统等以此发起资金操作,从而直接致使客户资金遭受损失。
二是存在交易责任风险情况,互金协会表明,OpenClaw智能体拥有自主执行多步操作的能力,有用户已把它用于股票监控以及投资策略回测等金融方面场景,自动化执行过程有可能出现误操作资金转账以及投资产品购买的状况,进而导致产生实际损失,当前人工智能技术还不具备完全可解释性,自动化执行金融交易背后的责任主体难以被认定,相关法律责任存在着较大不确定性。
一方面,存在数据合规风险。另一方面,OpenClaw智能体有持久性的记忆功能。再者,其运行之时,所产生的数据会持续存储于本地的会话记录以及记忆文件当中。另外,在它调用大模型API接口或者进行其他操作之际,有关的数据有可能被传输到第三方。
互金协会表示,互联网金融场景涵盖征信数据、信贷审批材料、交易流水等极为敏感的数据,当这些数据进入AI处理链路之后,其可访问范围以及留存周期或许会超出原有业务目的的必要范畴,进而引发金融数据管理合规风险。
此外,新型诈骗风险是存在着的。互金协会讲,不法分子兴许会用“AI代炒股”“稳赚不赔”这般的话语展开投资诈骗,借助“龙虾”的热度去大量仿冒金融机构进而发布虚假信息,以此诱导社会公众去下载仿冒应用或者朝着指定账户进行转账。另外,不法分子有可能以“代为安装”“远程调试”之类之名夺取消费者设备的控制权,趁机植入恶意程序或者窃取金融方面的敏感信息。相关报告表明,涉及AI的金融诈骗案子呈现出快速增长的态势,公众对于此类新型诈骗手段的识别能力急需提升。
谨慎安装、警惕诈骗
针对上述风险,中国互联网金融协会提出四方面防范建议。
首先,建议金融消费者,在办理网上银行、证券交易、支付等个人金融业务的终端上,极其谨慎地安装OpenClaw。假如确实有必要进行安装,建议不要授予金融服务类系统操作权限,要及时跟进OpenClaw漏洞修复情况,严格控制功能插件安装,在使用该OpenClaw时,不要输入身份证号、银行卡号、支付密码等敏感信息。另外,此类应用在运行过程中,会持续调用大模型接口,这可能会产生较高的Token费用,建议使用者密切予以关注。
其次,建议金融消费者,对以“养虾理财”“AI代炒股”“稳赚不赔”等名义开展的金融诈骗活动,要高度保持警惕,关联转账、进行投资等操作的时候,必须通过正规渠道,不要轻易去相信他人,不能以“代为安装”“远程调试”等名义,让其接触个人设备。
另外,建议从业机构,不在涉及客户信息处理的终端上安装OpenClaw,不将客户金融信息输入该智能体或接入其处理链路,不在涉及资金操作的终端上安装OpenClaw,不将交易数据输入该智能体或接入其处理链路,不在涉及风控审核的终端上安装OpenClaw,不将信贷审批材料等敏感数据输入该智能体或接入其处理链路。
此外,建议从业机构把对OpenClaw等智能体应用的安全管理归入本单位信息安全管理范畴,针对单位员工开展专项安全培训,提升对这种智能体应用安全风险的识别以及防范能力。
王蓬博觉得,开源智能体对于金融行业而言并非没有价值,其最为突出的优势在于降低成本、提高效率,并且能够有效地把大量重复性程度高、规则清晰明确的辅助性工作予以自动化。要是开源AI智能体期望切实进入金融核心场景,那就必须跨越几个关键的门槛,这其中涵盖实现算法可进行解释并且可追溯,要将黑箱彻底消除;要构建起清晰的权责划分机制,以此来确保问题能够进行追责;要搭建符合金融级标准的数据合规以及隐私保护体系;要强制保留人工干预的权限,设置熔断机制,从而防止出现不可逆风险的情况等。


Copyright C 2025 All Rights Reserved 皖ICP备2024052706号-7
地址: EMAIL:1210524564@qq.com
Powered by PHPYun.