北大、微信安全团队构建通用智能体全生命周期安全图景

机器之心报道，北京大学与微信安全团队构建通用智能体全生命周期安全图景。文章指出，大语言模型从聊天助手走向通用智能体后，安全关注点从模型是否生成有害内容、泄露敏感信息或被越狱提示绕过，扩展到智能体自主选择技能、调用工具、读写文件、访问数据库、操作网页和终端，以及将任务经验写入长期记忆等环节。

信源原题：打开「潘多拉工具箱」：北大、微信安全团队构建通用智能体全生命周期安全图景