文 | 中国信息通信研究院、移动应用创新与治理技术工业和信息化部重点实验室 刘陶;博鼎实华(北京)技术有限公司 任维赫;中国信息通信研究院、移动应用创新与治理技术工业和信息化部重点实验室 傅山*
人工智能与移动智能终端深度融合,推动轻量化、场景化、自主化的移动终端智能体快速兴起,打破了传统移动应用工具化的局限,实现了从被动响应到主动服务、从单一功能到全场景协同的转变,成为数字经济新的增长点。当前,移动终端智能体产业处于技术迭代加速、应用场景拓宽的关键期,但其自主决策、跨应用联动、高频权限调用的特性,催生了诸多新型安全可信威胁与多维度信任隐患,传统终端防护体系已难以适配全新运行形态。同时,产业生态内跨主体协同缺乏统一规则,用户知情权、控制权保障不足,严重制约行业生态平稳有序发展。立足总体国家安全观,统筹发展和安全,围绕人工智能“为人所用、为人服务、为人所控”发展导向,严格遵循用户自主管控、知情权优先的核心治理逻辑,构建全方位、多层次、全链条、多方共治的移动终端智能体可信生态体系,这一举措既是防范新型安全风险、守护用户权益的必然要求,也是规范产业秩序、推动技术应用落地的关键举措。
一、产业发展态势与运行特征
移动终端智能体特指部署在手机、平板等移动智能终端设备上,依托终端本地算力与端云协同能力,具备自主感知、意图理解、任务拆解、跨应用协同、自动化执行与闭环服务能力的轻量化AI智能主体。
当前,全球移动终端智能体技术创新与商用落地进程全面提速,其技术突破正引发移动应用生态的颠覆性重构,推动跨应用、跨场景一体化协同服务成为常态,人机交互逻辑与移动服务形态从底层重塑。从技术架构与能力实现角度来看,移动终端智能体具备三方面核心特征:一是具备自主决策与任务闭环能力,可基于用户意图自主拆解复杂需求、调度各类资源,无需人工分步指令即可完成全流程服务;二是具备跨应用工具互联能力,能实现终端内不同应用、外部工具与数据源之间的无缝联动,打通功能与数据流通壁垒;三是具备轻量化与端云协同能力,通过模型压缩、边缘计算以适配移动终端算力、存储、功耗受限特性,兼顾端侧本地运行效率与隐私安全,依托云端算力实现能力持续拓展与优化。
与此同时,移动终端智能体行为链路复杂、参与主体多元,安全与可信成为生态发展双重核心要求,安全是系统运行底线,可信是用户接受与产业协同的前提。而现有安全防护治理体系相对滞后,难以适配移动终端智能体技术特性,由此引发多重新型安全风险与信任隐患,严重制约了行业生态有序、高质量发展。
二、可信安全主要风险研判
移动终端智能体依托端云协同架构、跨应用联动能力和长期记忆机制,形成了感知、推理、记忆、执行的全链路数据处理闭环。相较于传统移动应用,其自主化决策、动态化交互、隐蔽化运行、跨主体流转的特征尤为突出,个人信息处理呈现来源多元、过程隐蔽、边界模糊、责任交织的新特点。结合智能体技术架构与运行逻辑,从跨主体交互、行为管控、数据安全、责任界定四个维度梳理,当前,移动终端智能体主要面临四类核心可信安全风险。
(一)跨主体可信交互风险
跨主体协同是智能体运行的基础,多主体交互信任体系缺失易引发各类适配漏洞与安全隐患。移动终端智能体需与本地终端、第三方应用及云端服务深度融合,实现多主体协同交互。目前,业界尚未形成适配智能体运行特征的统一身份信任体系与跨域交互规范,跨实体、跨层级信任传递机制缺失。传统权限管控体系适配性严重不足,难以约束智能体新型跨应用交互行为。智能体可依托无障碍服务、屏幕内容理解、自动化触控操作、剪贴板读取等系统底层辅助能力完成跨应用任务联动,该类操作独立于应用标准化业务API体系,可直接绕过应用接口权限校验与前置安全风控流程,脱离传统权限管控范式,极易导致跨主体交互边界失控、信任机制失效,滋生越权访问、非授权调用、安全策略旁路等安全隐患,且传统静态权限配置模式也无法适配智能体动态化、自主化的跨域调度需求,交互可信性难以得到有效保障。
(二)自主行为失控风险
移动终端智能体的自主决策与黑盒运行特性,易导致行为失序、用户控制权弱化。区别于传统应用被动执行的运行模式,移动终端智能体具备自主推演、动态交互与跨应用协同作业能力,原有终端静态安全防护体系难以适配这种动态化、主动化的全新运行形态。从端侧模型运行层面来看,由于受限于终端算力、存储及运行环境约束,轻量化智能体模型普遍存在鲁棒性偏弱、安全冗余不足的短板。由于端侧部署场景缺乏常态化安全校验与动态风险监测机制,模型极易被对抗样本干扰,从而引发决策偏差与执行异常。同时,模型潜藏的隐蔽后门、固有程序漏洞难以被及时感知与发现,持续对智能体自主决策逻辑与终端运行安全构成威胁。此外,智能体依托深度学习推理完成任务规划,整体决策与执行过程呈现黑箱特征,运行流程不透明、行为逻辑不可见,用户无法及时知晓智能体运行目的与潜在风险,缺少实时审查、干预、终止的有效手段。叠加AI模型固有“幻觉”问题,易出现任务规划错误、流程执行失序等异常情况,进一步加剧终端智能体自主行为失控风险。
(三)数据隐私泄露风险
智能体多环节高频数据交互与多模态处理特性,既存在隐私泄露隐患,也存在数据处理不透明、用户知情可控性不足的可信问题。移动终端智能体依托多模态感知、自主学习、跨应用协同能力开展业务运行,全过程伴随高频、多维的数据处理行为。不同于传统应用规范化的数据交互模式,智能体数据处理流程隐蔽性强,数据采集用途、流转路径、使用范围缺乏公开透明的披露机制,用户难以知晓个人数据处理细节,知情权与自主管控能力被大幅弱化,难以有效监督干预数据处理行为。在感知层面,智能体多以静默方式宽泛采集用户信息,易超出业务必要范畴,违背最小必要原则,且多模态数据融合可精准刻画用户画像,造成隐私过度暴露。在记忆存储层面,智能体具备自动记忆留存特性,依托向量数据库存储交互数据,数据耦合度高、清理难度大,存在持续性隐私残留风险。在流转执行层面,跨应用数据交互路径动态模糊,传输过程中易遭受恶意嗅探、指令劫持、数据篡改等攻击,极易引发数据滥用、隐私外泄等安全问题,整体数据安全与可信风险较为突出。
(四)跨应用责任溯源风险
多主体行为深度耦合、审计追溯机制缺失,造成跨应用场景风险溯源难、责任界定难。移动终端智能体可自主调度多类应用以协同完成复合任务,使得用户、终端厂商、模型服务商、应用开发者、云端平台等多方主体行为深度嵌套、链路交织,彻底打破传统移动应用权责清晰、主体独立的运行边界。从可信治理视角来看,智能体黑箱式的推理运行模式导致业务执行过程不透明、行为归属模糊,以及行业尚未建立适配智能体跨域运行的标准化审计追溯体系,各环节行为记录、数据流转日志缺乏统一规范,存在日志碎片化、轨迹不完整等问题,无法完整还原协同作业链路。同时,当前行业缺少针对性的安全可信认证体系与跨主体协同治理规则,各参与主体的履职边界、安全权责、判定依据缺乏精细化界定。一旦发生越权操作、数据泄露、服务异常等安全事件,难以精准定位风险源头、厘清责任归属,极易引发多方责任纠纷,严重制约智能体产业生态的规范化、有序化发展。
三、可信生态核心治理目标
移动终端智能体的自主推演、动态交互与跨应用协同运行模式,重塑了移动端服务的运行逻辑与风险形态。传统终端安全可信体系以静态环境可信为核心,侧重静态防护,适配运行逻辑固定、业务被动响应等传统场景。针对移动终端智能体全新运行形态的安全可信治理体系需在兼容基础环境可信的前提下,将治理核心聚焦智能体动态运行全流程,重点管控自主决策、动态授权、跨应用协同等行为引发的内生安全风险,实现模型、行为、数据、交互的全过程动态可信,适配智能体主动化、自主化、动态化的全新运行场景。同时,区别于工业、企业级智能体侧重生产安全与业务合规的建设逻辑,移动终端智能体安全可信生态更加侧重以用户权益保障为核心,聚焦用户使用安全、隐私保护、用户全程掌控,重点防范数据泄露、权限滥用、行为失控等直接影响用户利益的风险。其整体生态应以全主体、全链路可信关联为核心指向,构建终端与终端、终端与智能体、智能体与应用、用户与服务四层互信关系,打通产业协同信任壁垒,达成来源可查、模型可信、运行可控、行为可溯、权限可管、协同可靠、用户放心的全维度治理效果,实现技术安全性、行业合规性与用户信任感的有机统一,为后续防护技术迭代与治理规则落地提供顶层支撑。
针对移动终端智能体在权限调用、数据流转、自主行为、运行环境等方面的安全风险,以及责任边界模糊、跨主体协同不足等阶段性困境,移动终端智能体安全可信生态应以“权限可管、数据可溯、行为可控、环境可托”为四维核心目标。这四方面目标各有技术治理指向,相互支撑、耦合联动,形成完整的闭环治理逻辑。
(一)权限可管
聚焦智能体权限申请、调用、变更、释放全流程管控,以最小必要、场景适配、动态可控为核心原则,构建精细化、动态化的授权管控体系,实现权限按需分配、场景化授权。重点落实用户敏感权限实质确认、高危操作实时拦截、权限动态回收调整等机制,严格规范智能体及第三方应用的权限申请与调用行为,从源头构建安全管控与合规授权体系。
(二)数据可溯
聚焦智能体全生命周期数据安全管理,确立数据全程可追溯治理目标。围绕智能体数据采集、存储、流转、使用、销毁各环节搭建溯源管理体系,规范端内数据交互与跨应用数据流通路径。依托端云协同审计机制,完整留存智能体数据调用、跨应用流转、本地处理、云端同步及安全销毁等全链路操作记录,形成不可篡改的可信审计台账。明确跨应用数据流转可信通道与权属界定,确保各环节数据可追溯、可审计、可核验,防范数据泄露、篡改、滥用风险。
(三)行为可控
聚焦智能体自主决策、执行交互全流程管控,以用户知情权与控制权保障为核心原则,构建技术防护与责任约束相结合的全流程行为管控体系,实现操作可解释、行为可预见、异常可阻断、过程可干预。通过技术手段向用户清晰告知智能体行为目的、执行流程、预期结果及潜在影响,支持用户对相关操作的暂停、终止、撤销功能,并对高危操作设置用户建立二次确认机制;规范主动服务与多模态交互行为,禁止弹窗劫持、诱导点击、静默执行等违规操作,降低“AI幻觉”、对抗样本攻击引发的误操作风险,建立行为失范后的责任追溯与举证机制,明确厂商及第三方应用的行为管理责任。
(四)环境可托
聚焦端云协同底层软硬件安全底座建设,构建一体化、规范化的跨主体安全防护体系,夯实智能体可信运行环境。终端侧可依托可信执行环境(TEE)、安全元件(SE)等安全技术,搭建分层化可信根基,保障端侧模型运行、数据存储的底层安全。云端依托隐私计算、机密计算、远程可信证明等核心技术,搭建通信加密、边界防护、异常流量监测一体化安全防护体系,筑牢端云数据交互与协同运行安全屏障。同时,建立智能体与第三方应用之间统一的可信身份鉴权机制与跨应用风控体系,制定标准化安全交互协议,补齐行业统一规范缺失的短板,规避因标准不统一引发的恶意利用、风控失效、判定偏差等安全问题,全方位打造安全稳定、可信可控的端云协同与跨主体协同运行环境。
四、结 语
移动终端智能体作为人工智能技术落地的重要形态,正深刻改变着移动服务模式与产业生态,但其自主化、跨域化、隐蔽化特性带来的安全可信风险仍不容忽视。应围绕权限、数据、行为、环境四大核心目标锚定治理方向,贴合产业实际补齐安全治理短板,这样能够有效化解各类新型安全可信风险,切实守护广大用户的合法权益。后续可依托既定四维治理目标,逐步完善配套治理举措,持续跟踪技术演进与风险变化,动态优化治理思路,推动移动终端智能体产业在安全可控前提下健康有序发展,为数字经济安全稳健发展筑牢坚实支撑。(傅山系本文通信作者)
(本文刊登于《中国信息安全》杂志2026年第5期)