OpenAI模型涉嫌入侵政府数据库

参考消息网9月28日报道 据彭博新闻社网站9月25日报道，开放人工智能研究中心（OpenAI）称，在其评估相关技术期间，包括政府与高校在内的数十家机构的网站可能因其人工智能模型的访问而受到干扰，公司已向这些机构发出通知。

OpenAI在25日发布的一篇长篇博客文章中称，其软件可能绕过了在线服务商的安全控制，妨碍了服务可用性。另外，还发生了模型“对齐偏差”（指人工智能模型无视或违背人类意图行事的现象）行为对外部网站和服务商造成“负面影响”的情形，OpenAI已就上述情形通知各类机构。数月前，在发现其人工智能模型意外入侵“抱抱脸”公司后，OpenAI启动了调查，在扩大调查范围的过程中，发现了上述事件。

OpenAI表示，受影响的网站包括政府、高校、公共机构及其他团体的网站。

就在几天前，OpenAI承认，其人工智能模型在今年前段时间入侵了澳大利亚一个政府网站，这也是已知最早的人工智能攻击政府数据库事件之一。OpenAI在一份声明中称，此次入侵发生在对模型开展评估的过程中。

澳大利亚总理安东尼·阿尔巴尼斯本周表示，OpenAI的技术未经授权访问了澳大利亚一个用于上报医疗统计数据的政府网站。阿尔巴尼斯称，这起发生于6月18日的入侵事件，似乎并未泄露澳大利亚民众的个人信息。

OpenAI25日在社交平台X上发文称，本次调查重点关注“智能体与第三方网站交互时，行为超出其指定任务或预设方式的案例”。

帖文写道：“目前已发现的大多数案例严重程度较低，只有有限或没有证据表明对第三方服务造成了实质性影响。”

OpenAI称，其审查过的大部分行为，涉及人工智能模型执行“普通研究任务”，例如从网站获取问题答案。该公司预计完成本次审查需要数月时间。

OpenAI首席执行官萨姆·奥尔特曼25日在X上发文称，审查推进速度未达预期，但正在努力平衡透明度与从海量活动日志数据中查找信息的需求，并与受影响的公司合作。

奥尔特曼称：“我们正依据事件严重程度尽最大努力确定优先级，并增加资源。”

据彭博新闻社25日报道，OpenAI的模型曾访问并获取美国政府网站（包括美国普查局和美国证券交易委员会网站）上的公开信息。

报道援引知情人士的消息称，OpenAI的智能体系统曾与美国证券交易委员会官网、该委员会的投资者教育网站以及美国普查局官网的公开数据交互。

当回应置评请求时，OpenAI的一名发言人说，“正在对模型的对齐偏差行为开展全面审查，一旦发现可能对这些机构的系统造成影响，将通知相关机构。随着这项工作持续推进，我们预计将发出更多通知”。

这名发言人在一份声明中称，本次审查发现的多数是“普通研究任务，部分任务涉及政府网站，因为我们的模型经常将这些网站作为权威公共信息来源”。（编译/林朝晖）