狂奔的智能体有了清晰边界。工业和信息化部近日印发《关于加强智能体终端设备进网管理的通知》。新规监管的对象,不只是看得见的终端硬件,更是藏在设备里看不见的人工智能。给智能体划定运行边界,最终目的是要确保AI技术为人所用、为人服务、为人所控。
智能体终端,简单说就是安装了智能体的手机、平板、可穿戴设备等。智能体具备自主感知、决策、行动与学习等能力,和一问一答的传统AI助手有着本质区别,能实现从被动响应转向主动服务。传统终端AI需要用户发起指令,而智能体可以理解用户需求,自主规划流程,调用各类应用,执行一系列任务等。从更广义的范畴来说,智能网联汽车、人形机器人等具备自主执行能力的设备,也都属于智能体终端。
自主执行能力带来的不仅是便利,还有隐私、安全等风险。首当其冲的就是隐私泄露问题,智能体跨平台对接能获取大量个人信息、文件、消费数据等,如果防护缺位,极易造成数据泄露乃至滥用,威胁用户隐私与财产安全。其二,算法局限容易带来自主决策偏差,复杂场景下可能出错并直接执行。其三,新型网络攻击层出不穷,隐蔽性强、识别难度高。加之自主操作边界不清,容易触碰合规红线。这也是此次新规跳出硬件监管,重点瞄准内置智能体的原因。
AI能力越强,越要守牢安全与规则底线。近年来AI硬件迭代迅速,但配套规则滞后于产品创新。一方面,新业态需要包容空间,不能简单一管了之,要给技术探索、场景试错留出合理窗口;另一方面,也要防范权限滥用、数据私自采集、设备升级失控、智能体越界自主操作等隐患,保障用户知情权、选择权。明确厂商、平台的主体责任,在鼓励创新和风险防控之间找准平衡,让技术红利安全落地。
明确规则也有利于产业良性发展。有的厂商简单将大模型植入硬件就仓促上市,样机演示流畅,换到不同设备上便卡顿闪退,用户体验大打折扣。有的厂商只管出厂检测,后续版本更新便不再负责。有的厂商搞盲盒式OTA(远程无线)升级,升级内容不透明,结果有好有坏。不少新能源车主对于OTA升级评价说:“你永远不知道这次升级会带来什么新功能、修复什么问题,或者会不会反向优化,就像开盲盒一样充满惊喜或惊吓。”
产业竞速不能以牺牲安全和权益为代价。新规正是要补齐适配、升级、授权、追责等各环节短板,推动智能终端从能用走向可靠可控。比如,加强智能体和终端的适配验证,规范权限调用、通信行为,避免“演示好看、真机翻车”现象。强化智能体终端进网管理,将适配验证、风险评估作为前置关口,从源头提高产品准入门槛。针对盲盒式OTA升级乱象,明确在线升级推送须先制定方案,经专家评估、征求意见后,再向用户推送,遏制无测试、无约束的随意更新。补齐分发环节漏洞,App开发者要说明是否同意智能体调用,保障用户知情权与选择权。
新规的监管对象是智能体终端,却对整个中国制造有着重要借鉴意义。从传统制造业发展而来,至今仍有不少企业重硬件、轻软件。迈入人工智能时代,硬件只是载体,软件正在成为决定产品可靠性、持续进化能力的关键变量,甚至有“软件定义一切”的说法。软硬协同,中国制造才能从规模优势迈向智能优势。
鼓励创新不等于没有边界,包容审慎也不是放任自流。短期看,合规可能会提高企业适配、测评、风险评估等投入。但长远而言,将有效遏制无序内卷,让兼顾性能体验与安全底线的国产智能硬件获得更大发展空间。
(文章来源:经济日报)


