研究揭LLM攻擊新手法HalluSquatting，可誘使AI程式開發助理安裝惡意程式

以色列特拉维夫大学的研究人员发现了一种名为 HalluSquatting 的新型攻击技术，能够操纵大型语言模型（LLM）的 AI 编程助手，诱导其安装恶意软件。

这种名为 HalluSquatting 的攻击方式利用了 LLM 的一个漏洞，该漏洞允许攻击者在 AI 程式开发助理（AI Programming Assistant）中植入恶意代码。研究人员展示了如何通过精心设计的提示词，让这些 AI 工具在用户不知情的情况下，下载并执行包含恶意软件的指令。

HalluSquatting 的攻击目标包括一些流行的 AI 编程助手，例如 Cursor、Cursor CLI、Windsurf、GitHub Copilot CLI，以及 Gemini 等。研究人员通过实验发现，该技术在某些情况下能够让 AI 程式开发助理在 85% 的测试中成功安装恶意软件，甚至在 100% 的情况下被诱导执行了恶意命令。

这项研究揭示了 LLM 在安全方面的一个新威胁，尤其是在 AI 程式开发助理领域。研究人员警告称，HalluSquatting 攻击可能被用于传播恶意软件，对软件开发流程和开发者构成严重的安全风险。