12月19日,国内首个智能体安全生态协作组织—“IIFAA智能体可信互连工作组”在北京成立,该工作组致力于推动行业共同制定跨智能体交互的相关安全技术规范,以应对智能体高速发展所带来的安全协作挑战,共建开放、合作、共赢的智能体生态。中国信通院、荣耀、OPPO、小米、华为、智谱、字节、阿里、蚂蚁、京东、中国移动、高通等二十余家头部科技企业和单位成为工作组首批成员。
近年来,手机终端、大模型及APP厂商纷纷推出“AI管家”等智能体产品,用户可以与设备或APP进行自然语言交互,快速实现订票、点餐、打车、查询附近吃喝玩乐等操作。“对用户而言,一条指令,往往会涉及多个APP智能体产品,而智能体之间的打通很难,如何在端上实现多智能体间的可信互连,成为智能体发展中至关重要的问题。”中国信通院泰尔终端实验室信息安全部副主任傅山说,目前行业还处于初期阶段,新技术在给用户带来便利的同时,也隐藏着安全风险。
IIFAA联盟秘书长郑亮表示,智能体之间的服务互联最终要完成用户指令,这中间涉及到意图数据的共享传递和复杂任务拆解等必经流程,这些流程在没有规范约束的情况下,就像开车没有红绿灯,非常容易滋生乱象。郑亮认为,智能体之间需要开放协作,也需要共建安全互信的行业规范。