人工智能技术的快速迭代,让AI智能体深度融入大众日常使用场景,在为产业升级、民生服务注入新动能的同时,也涌现出诸多问题如权限滥用、数据治理不规范、市场竞争失序等。这些问题不仅触碰用户数据安全与隐私保护的红线,也对数字生态的公平性和可持续性提出挑战。在聚焦高质量发展、构建良好数字经济生态的背景下,如何规范终端AI智能体发展、明晰治理边界,成为社会关注的重要议题。多位全国政协委员结合调研与行业观察,针对人工智能治理尤其是终端AI智能体发展中的痛点难点建言献策,为引导AI智能体健康发展、营造公平透明的数字生态提供思路与方向。
全国政协常委、中国企业财务管理协会会长张连起长期调研人工智能领域相关话题,他表示,目前部分手机AI助手存在通过“识屏+模拟点击”技术,滥用“无障碍服务”或系统级权限的情况。目前行业尚未建立明确的责任归属机制,手机AI助手若发生误判或被操控,用户权益受损后难以维权。
张连起认为,智能手机行业要避免形成“比谁权限更宽、比谁功能更激进”的恶性竞争。这种“内卷式”竞争偏离技术创新本质,降低公众对智能科技的信任度,也不利于全国统一大市场的健康发展。他表示,“希望加快修订完善反不正当竞争法、反垄断法及其配套细则、立法解释,将终端AI滥用底层权限操纵软件等新型不正当竞争行为纳入规制范围;另外,针对近期部分手机厂商利用系统权限拦截第三方App下载安装等行为也要明确其违法性,以公平竞争的法治环境改善当前立法不够健全的现状。”
无论是技术漏洞还是竞争乱象,最终都指向了数据治理与产业生态的深层矛盾。全国政协委员、高锋集团董事局主席吴杰庄从宏观角度分析提出,当前终端AI智能体技术快速发展,为数字经济与产业升级带来新动能,在用户数据安全、隐私保护及产业生态构建方面也提出了更高要求
“一是在数据收集环节,部分AI智能体存在收集范围界定不清晰、超出'最小必要'原则等现象,用户数据权益边界有待进一步明晰。二是在授权使用环节,部分AI应用未经用户与第三方应用运营方充分授权,即开展读屏、自动化操作等行为,并获取屏幕信息与相关数据,个人保护与数据合规治理仍需加强。”吴杰庄向记者表示。与此同时,部分终端厂商依托操作系统优势,对应用下载、安装与运行进行不合理限制,也不利于市场的充分竞争与活力释放。
吴杰庄认为,这些问题不仅影响用户自主选择权与使用体验,也制约软件产业的创新积极性,长远来看不利于我国数字生态高质量发展与软件产业国际竞争力提升。
为此,他建议进一步完善相关制度规范,明晰技术应用与数据处理的行为边界,引导行业合规有序发展,让终端厂商树立开放共生、协同创新的发展理念,共同营造公平透明、充分竞争的数字市场环境,推动产业生态多元共赢,助力我国软件产业做强做优、提升全球竞争优势。(张伟)
访谈
更多护航视频监控网络安全 做物联网安全的守护者 ——专访天防安全总经理段伟恒
在万物互联时代,网络安全的重要性日益凸显,尤其在快速发展的城市建设中,搭建的巨大物联网络对其安全保障…
做行业赋能者 HID迎接数字化浪潮新机遇 破解新挑战
今年3月份,全球可信身份解决方案提供商HID发布了最新的《安防行业现状报告》(以下简称“报告”),该报告…
数字化浪潮下,安防厂商如何满足行业客户的定制化需求?
回顾近两年,受疫情因素影响,包括安防在内的诸多行业领域都遭受了来自市场 “不确定性”因素的冲击,市场…