【余弦:使用AI工具时需警惕提示词投毒攻击】区小号消息,12 月 29 日,慢雾创始人余弦发布安全提醒,用户在使用 AI 工具时,一定要警惕 agents md/skills md/mcp 等里的提示词投毒攻击,目前已出现相关案例。AI 工具的危险模式一旦开启,相关工具可以全自动操控用户电脑而无需任何确认。但未开启危险模式则每次操作都需要用户确认,也将影响使用效率。
微信小程序
微信扫一扫体验
微信公众账号
微信扫一扫加关注
发表评论 取消回复