人为因素：中国政府支持的黑客利用人工智能发动了首次大规模网络攻击

人为因素公司周四表示，该公司挫败了其所称的首起主要由人工智能驱动的大规模网络间谍活动，凸显了先进的智能体正在以多快的速度重塑威胁格局。

在博客文章人类组织表示，一个中国政府支持的组织利用其 克劳德 Code（一种在终端上运行的 Claude AI 版本）发起入侵行动，其速度和规模是人类黑客无法匹敌的。

“这个案例证实了我们在9月下旬公开分享的内容，”一位人道组织发言人表示。解密。“我们正处于一个转折点，人工智能正在切实地改变攻击者和防御者所能做的事情。”

发言人补充说，此次攻击“可能反映了威胁行为者如何调整其在前沿人工智能模型上的行动，从将人工智能作为顾问转变为将人工智能作为操作员”。

“攻击者利用了人工智能的‘代理该公司在帖子中写道：“人工智能的能力达到了前所未有的程度——不仅将其用作顾问，而且还用于执行网络攻击本身。”

Anthropic公司表示，大型科技公司、金融机构、化工制造公司和政府机构都成为了攻击目标，此次攻击是由该公司称为GTG-1002的组织实施的。

事情经过是怎样的

根据调查，袭击者诱骗Claude将工作包装成合法网络安全公司的日常工作，从而诱使他人进入目标系统执行技术任务。

模型接受指令后，便自行执行了入侵生命周期中的大部分步骤。

虽然没有具体说明哪些公司成为攻击目标，但 Anthropic 表示有 30 家公司成为攻击目标，其中少数攻击取得了成功。

该报告还记录了一些案例，在这些案例中，被入侵的 Claude 绘制了内部网络图，定位了高价值数据库，生成了漏洞利用代码，建立了后门账户，并在几乎没有直接监督的情况下提取了敏感信息。

此次行动的目标似乎是情报收集，重点是提取用户凭证、系统配置和敏感的运行数据，这些都是间谍活动中常见的目标。

发言人表示：“我们公开分享此案例，是为了帮助工业界、政府和更广泛的研究界加强自身的网络防御。”

人类研究所表示，此次人工智能攻击对人工智能时代的网络安全具有“重大影响”。

“没有办法百分之百避免越狱。这将是攻击者和防御者之间持续不断的斗争，”南加州大学计算机科学教授、Sahara AI联合创始人任晓东（Sean Ren）表示。解密“像 OpenAI 和 Anthropic 这样的大多数顶级模型公司都投入了大量精力来组建内部红队和 AI 安全团队，以提高模型安全性，防止恶意使用。”

任志强指出，人工智能日益普及和功能强大，是导致不法分子能够策划人工智能驱动的网络攻击的关键因素。

与早期的“氛围黑客”不同，攻击者攻击报告称，那些依赖人工指挥的行动，能够利用人工智能完成80%到90%的行动，只需偶尔进行人工干预。这一次，人工智能产生的幻觉反而减轻了危害。

“克劳德并非总是完美无缺。它偶尔会凭空捏造凭证，或者声称提取了实际上公开的秘密信息，”Anthropic公司写道。“这仍然是实现完全自主网络攻击的一大障碍。”

Anthropic公司表示，他们已扩展了检测工具，加强了网络安全分类器，并开始测试新的方法，以便更早地发现自主攻击。该公司还表示，发布研究结果是为了帮助安全团队、政府和研究人员为应对人工智能系统日益强大的未来可能出现的类似情况做好准备。

任正非表示，虽然人工智能可以造成巨大破坏，但也可以用来保护计算机系统：“随着网络攻击规模的扩大和自动化程度的提高，我们必须利用人工智能来构建预警和防御系统。”