AI Agent 2.0 时代 Claude Computer Use 提示词注入攻击演示 --模拟真实攻击场景
2024-11-2 08:27:0 Author: mp.weixin.qq.com(查看原文) 阅读量:0 收藏

前面Claude Computer Use刚发布的时候，就同步404 AI安全群里就提到这个估计会通过提示词注入被反制

果不其然今天看到有个国外团队做了尝试：

https://embracethered.com/blog/posts/2024/claude-computer-use-c2-the-zombais-are-coming/

但是总觉得没有还原真实攻击场景，所以让兄弟充个值做个演示 :


前面《大模型时代已经来临！AI Agent 进入2.0时代，然而我发现我错了... 》文里说Computer Use标志着AI Agent 2.0时代来临，这个也意味着提示词攻击有了新的攻击场景！而且可能是影响广泛应用的"拦路虎" ...

另外再次说明下Cursor真好用，最近有更新了，更加丝滑！视频里那个留言板的应用就是Cursor一键生成的，另外Claude的API老限制，而且老贵，这个视频演示一共花了我差不多快2美刀了！


文章来源: https://mp.weixin.qq.com/s?__biz=Mzg5OTU1NTEwMg==&mid=2247484261&idx=1&sn=b5274b1e9c3502161d116f9817861fbb&chksm=c050c914f7274002ac13a2607788c5b27ffb7bcf9d312a718df3b7f59990daea55f9a02a9994&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh