人工智能模型失控，OpenAI遭调查

据法新社8月24日报道，由于上月披露其模型在测试期间失控并入侵一个人工智能平台，ChatGPT的开发商开放人工智能研究中心（OpenAI）面临美国亚拉巴马州的调查。

7月中旬，两个OpenAI模型逃离其封闭的测试环境并访问了互联网。它们在互联网上发现并攻击了“抱抱脸”公司的网站。该网站是人工智能开发者用来存储和共享模型及数据集的地方。

该事件引发了外界对人工智能系统危险行为的担忧。人们担心的是，人工智能系统会自主运行并突破人类程序员为防止安全违规而设置的防护机制。

报道称，在一份14页的命令中，亚拉巴马州总检察长史蒂夫·马歇尔的办公室要求OpenAI交出关于7月份事件的内部记录，以及其他一系列材料，包括参与这起入侵事件或导致入侵的测试工作的每位员工的身份信息。

马歇尔办公室在一份声明中称，此次调查是针对“该公司完全缺乏监管、也未设置足够安全措施”而展开的。

报道指出，这是已知首个针对人工智能系统攻击其他公司基础设施是否违反消费者保护法这一问题而展开的州级调查。如果认定违法，该公司将在全美范围内面临重大诉讼。

8月3日，亚拉巴马州和其他14个州联名致信OpenAI首席执行官萨姆·奥尔特曼，要求该公司保存有关事件的记录并暂停对其模型进行任何内部网络安全评估。

亚拉巴马州总检察长办公室发言人告诉记者，OpenAI尚未回应8月份的这一要求。

不过，OpenAI在发给科技新闻网站“科技关键”的一份声明中说，该公司“将与外部顾问一起开展全面审查”。“审查完成后，我们将与相关政府部门分享技术报告，并公开我们的审查结果。”（编译/朱捷）