The Decoder· Matthias Bastian·· 1 小时前精选AI 评分78
Symantec 发现劫持未防护语言模型的攻击型智能体
An AI agent in "Skynet mode" hijacks unprotected language models to launch self-sustaining cyberattacks
AI 导读
Symantec 安全研究人员发现一个攻击型 AI 智能体,会劫持互联网上未防护的语言模型自行发起攻击,被劫持模型的所有者承担算力账单。该智能体可无人干预运行最多 10 万步,扫描更多目标、利用常见服务器软件漏洞、窃取数据库和凭据并在后台安装挖矿程序,Symantec 将这种盗用他人模型访问权的行为称为 LLMjacking。
推荐理由
Symantec 的蜜罐捕获了完整攻击提示词,读者可据此看到攻击者如何用五层包装绕过模型护栏并搭建自循环攻击。
来源:The Decoder · the-decoder.com