AI智能体治理研讨会举行_【增值税发票综合服务平台上海【代办电话13434104765;QQ2188982664】】
近期,北京消息指出,随着人工智能技术的迅速崛起,智能体作为一种新型的应用形式,正在不断深入人们的生活以及商业领域,在提高效率和改善用户体验的同时,也在多个方面引发了一些挑战,包括数据安全、个人隐私以及市场竞争等。
最近,在由中国经济贸易出版社在北京举行的“AI智能体不正当竞争治理”研讨会中,汇聚了来自学术界、行业协会以及市场监管部门的多位专家学者,共同探讨了关于AI智能体技术途径、法律法规制定、执行经验和合规管理等主题。
人工智能体的能力和风险同时存在。
北京邮电大学网络空间安全学院的技术专家聂煜晴博士表示,2025年被视为AI智能体元年,各类智能体正从单纯的对话工具发展成为具备感知、理解、决策与执行能力的复杂系统。她分析指出,当前AI智能体实现跨应用操作主要依赖三大技术路径:无障碍服务、共享屏幕API以及定时截图和OCR识别。尽管这些技术本身中立无偏,部分厂商为了追求效率,在实际应用过程中采用侵入式方法,并滥用系统权限。这种做法使得用户隐私数据面临被泄露的风险,并可能影响第三方应用的正常运营。
聂煜晴指出,AI智能体与传统外挂工具的根本区别在于它能够进行语义推理和自主操作,并且泛化能力强。尽管如此,这也意味着其数据泄露、越权操作和注入攻击等安全风险更为隐蔽和复杂。海外技术在使用读屏功能或调取三方应用时需更加谨慎,确保安全。她建议行业应遵循“最小权限”和“双重授权”的原则,以推动技术向透明化、可控性和合规化的方向发展。
反不正当竞争法怎样应对人工智能的挑战?
在法律规范方面,与会专家普遍认为,AI智能体的快速进步使得现有的法律体系面临更大挑战。
增值税发票综合服务平台上海【代办电话13434104765;QQ2188982664】北京理工大学智能科技法律研究中心研究员王磊指出,人工智能(AI)智能体在数据抓取、模型训练和界面操作等环节易引发新型竞争纠纷。在AI模型结构及参数侵权和AI写作工具进行虚假宣传方面,相关法院已审理过典型案例。 他认为,反不正当竞争法、著作权法和专利权法相互配合可以规范AI的使用,同时需要避免将技术争议简单归为商业道德问题,并应根据具体行为类型进行精细化分析。
对外经贸大学法学院教授许可进一步将AI智能体相关法律问题归结为三类:个人权益侵害、网络安全与国家安全风险以及市场竞争秩序问题。他特别指出,AI智能体有可能成为新的流量入口,并且甚至有可能颠覆现有以App为核心的移动互联网生态。如果终端厂商凭借硬件和系统底层的优势,捆绑推广自研的AI应用并构成搭售、自我优待或设置不合理交易条件等行为,未来可能会触碰反垄断法律红线。
而在不正当竞争领域中,AI智能体未经相关经营者许可调用第三方应用程序的行为涉及强制获取数据和破坏服务完整性。这种方式可能直接侵害第三方应用程序的商业利益及用户黏性,特别是跳过广告或用户付费环节的情况。 许可指出,根据新修订的《反不正当竞争法》第十三条第二款、第三款均可适用于规制此类行为。坚持用户与第三方应用程序双重授权原则以及透明、公平的方式解决问题,是可行的途径。
消费者权益和数据安全应该是合规的最低要求。
中国社会科学院大学教授张严方指出,公安部门长期提醒公众注意防范共享屏幕和远程操控问题,但AI智能体却处在模糊地带。这些AI智能体通过无障碍权限等方式截取屏幕内容,实质上削弱了通信秘密保护、数据安全管理及金融安全,并破坏了用户的真实意愿三大合规原则。这种情况下,App可能被“掏空”,消费者的知情权和真实意图受到影响,最小必要的数据收集原则也遭破坏。此外,设备侧自动操作模拟用户的点击、确认、支付等行为,侵犯了用户的选择权,增值税发票综合服务平台上海【代办电话13434104765;QQ2188982664】还可能导致金融交易真实性审核机制失效,从而风险防控逻辑也遭到“掏空”。
中国广告协会副秘书长张德志指出,在旅游预订和医疗服务等复杂消费过程中,AI智能体若在追求效率的同时忽略安全确认环节,可能造成财产损失与法律纠纷。他强调,对于涉及生物识别、支付密码等高敏感信息时,“人工最终确认”原则至关重要,需要坚守安全底线。“不怕AI幻觉,就怕AI自觉。”
执法实践注重包容和审慎,同时也强调依法监管。
市场监管部门的代表分享了他们的执法思考和经验。
上海市市场监管局价监竞争处副处长黄伟丰认为,AI智能体产业的发展是人机交互演进的重要方向,并且未来甚至可能重塑终端形态。在竞争监管方面,他指出在反不正当竞争法方面应重点关注用户的自主选择权和知情权是否被剥夺或扭曲,例如强制跳转、为用户设置障碍或者欺骗误导用户的行为。黄伟丰强调,反不正当竞争法的核心在于维护市场参与方的自主决策机制,并关注通过强制或误导等方式不当影响用户选择的行为。
北京市市场监管局价监竞争处处长贾晓强指出,在人工智能领域中常见的不正当竞争行为往往表现为传统行为向着智能化、规模化和隐蔽化的方向升级和放大。监管部门在秉持包容审慎的态度下,也需不断提高技术识别和取证的能力,以应对新型案件的挑战,并希望通过典型案例进行普法宣传。他表示,北京已查处了全国首例涉及AI模型服务的商业混淆案件,展现了对新兴领域竞争秩序的关注与维护。
针对人工智能智能体带来的复杂挑战,与会专家普遍认为,仅仅依赖单一主体或单个法律部门无法全面解决问题,亟需倡导多方合作治理模式,建立一个开放、公正和信赖的企业生态系统。