美媒：AI是否已具备黑客攻击能力？

　　参考消息网8月29日报道 美国趣味科学网站8月23日刊登题为《为什么AI会发动这么多黑客攻击？》的文章，作者是卡莉·佩奇，内容编译如下：

　　近几周来，人工智能(AI)模型频频登上新闻头条，但都是负面新闻。

　　开放人工智能研究中心(OpenAI)7月披露，其一款实验性智能体在内部安全测试期间攻击了多个可公开访问的服务系统，包括知名AI开源平台“抱抱脸”公司。随后，Anthropic公司披露，其AI模型“克劳德”自主串联多项漏洞利用手段，针对真实软件实施攻击，并开发了新方法以寻找代码中的弱点。不久之后，元宇宙平台公司(Meta)证实，由于配置错误赋予模型互联网访问权限，其一款AI模型在测评过程中入侵了其他机构的系统。

　　这些事件各自独立，但它们共同提出了一个更大的问题：AI是否突然具备了黑客攻击能力？简而言之，答案是肯定的，但其产生这种能力的方式可能并非新闻报道所渲染的那样。

　　这些事件都不涉及AI模型自主决定攻击随机目标。相反，研究人员为这些模型提供了实用工具、互联网访问权限或易受攻击的系统，以测试它们执行攻击性网络安全任务的能力。令许多专家感到惊讶的并非这些模型试图入侵系统，而是一旦获得机会它们所展现出的强大能力。

　　许多方面已同时发生改变。最显而易见的是，如今的AI模型远胜于一年前人们使用的聊天机器人。许多前沿模型不仅能回答问题，它们现在可以编写代码、执行命令、浏览网页、使用外部软件工具，并反复改进自身的工作，直至达成目标。

　　同时，AI企业也更愿意测试其模型的这些能力并公布结果。OpenAI、Anthropic和Meta等企业不再对它们的安全评估工作秘而不宣，而是发布报告，描述其最新系统在接受专业“红队”(即负责寻找系统弱点或滥用系统途径的安全问题专家)挑战时发生的情况。

　　许多新闻报道描述说，AI“逃离”测试环境或自主采取行动。但专家指出，这些描述很容易造成误解。

　　西班牙纳瓦拉大学商学院商业伦理学教授安东尼诺·巴卡罗说：“在与AI系统发生联系时，我们需要谨慎对待‘自主’这个形容词的含义。”他指出，与人类不同，AI模型不会形成意图或独立决定它们想做什么。相反，它们遵循由开发者或用户设定的目标，有时会产生令开发者意想不到的结果。

　　“女猎手”实验室公司负责安全运营的资深经理德雷·阿加指出，这些AI模型只是在努力实现既定目标。他说：“公众应该将这些事件视为软件优化出错，而不是出现具有自我意识的恶意AI。AI模型与其说是‘终结者’，不如说是一个能力很强、只会刻板执行指令的实习生，这名实习生会为了更快做完电子表格而触犯法规。”

　　问题不在于AI已经产生自我意识，而是在于，这些系统在获得适当权限后，执行复杂技术任务的效率越来越高。

　　最直接的风险并非AI自主发起攻击，而是网络犯罪分子会利用AI以前所未有的速度实施人们熟悉的网络犯罪。

　　犯罪分子并不需要依靠AI去发明全新的攻击手段，但这些模型可以让现有的攻击手段加速实现。AI可以审查大量关于潜在受害者的公开信息，帮助编写更具说服力的网络钓鱼邮件，识别软件漏洞，并生成可供攻击者修改利用的代码。

　　阿加说：“真正的威胁是人类的恶意，AI的规模和速度则会放大这种恶意，而非AI自主决定作乱。”

　　巴卡罗认为，能力的提升也意味着责任的增加。他说：“我们拥有了一种新的颠覆性技术，需要对其进行监管和控制。”他说，政府、企业和研究人员都应发挥作用，确保功能日益强大的AI系统始终受到有效监控。（编译/朱捷）