首页 >  新闻中心 > 行业新闻

Share - WeChat

据媒体报道

OpenAI与Anthropic

两家人工智能公司

之间的商业竞争日趋激烈

双方都在寻找一切机会

抢占先机


近日

OpenAI承诺

不会留存使用

其人工智能模型的

企业客户数据

同时提升产品安全能力

意在从竞争对手Anthropic

手中抢夺客户


推出“零数据留存”服务

OpenAI近日宣布

面向部分符合资格的

大模型客户

开放“零数据留存”服务


OpenAI表示

随着模型承担更长、更复杂的任务

部分严重安全风险

可能要在多轮交互后才会显现

现有兼容ZDR的安全系统

通常只能逐条评估交互

难以识别跨对话、跨账户

或持续试探安全机制的行为模式

若不留存部分客户数据

就很难保障工具被合规使用


为解决这一问题

OpenAI以预览版的形式

推出“私密安全处理”功能

该机制能够在

不让OpenAI员工

接触底层内容的前提下

利用自动化系统

分析关联交互中的风险模式


OpenAI强调

请求处理完成后

不保留提示词或模型回复

员工无法审阅客户内容

企业数据也不会用于训练模型


OpenAI表示

私密安全处理机制

目前正进行早期客户测试

计划于9月正式推出


隐私政策形成鲜明对比

有媒体表示

OpenAI的“零数据留存”

与Anthropic此前推出的政策

形成鲜明对比


Anthropic的政策允许其

对“受覆盖模型”的用户数据

包括所有会话

及其中的对话内容

保留30天

这一政策于今年7月发布

涵盖所有Fable、Mythos级别模型

及“未来具备类似能力的模型”

初衷是出于安全考量

便于对潜在违规行为

进行筛查分析


据媒体报道

这一政策令众多企业客户感到不安

尤其是涉及敏感数据的行业

部分企业还担忧

其数据可能被用于训练新模型

进而帮助Anthropic

开发更多竞争性产品


除此之外

Anthropic还表示

人工审查客户数据的情况确实存在

但须通过

“受控访问路径”进行


相比之下

OpenAI则表示

客户数据将保留在

客户控制的基础设施

或密钥由客户掌握的系统上

公司员工将无法查看

模型提示、回复或其他敏感信息


双重政策引发全球热议

白宫人工智能顾问、风险投资家David Sacks

微软首席执行官萨提亚·纳德拉

以及硅谷科技公司Palantir负责人等

科技界人士认为

企业需要确信

人工智能公司不会保留其数据

尤其是在医疗保健

和金融等受监管行业


OpenAI产品政策负责人

对此发声表示

已从企业方面

听到非常明确的声音

那些为其他企业服务

并将其极其敏感的数据

托付给自己的人

通常都会对客户做出承诺


有媒体认为

OpenAI这一举措

凸显了其在人工智能竞赛中

追赶Anthropic的努力

同时也安抚了部分批评者

他们担心公司工具

缺乏足够的安全防护机制

无法防范网络攻击或模型失控

带来的其他危害

2022年7月12日,世界互联网大会国际组织正式成立,从互联网领域的国际盛会发展为国际组织,总部设于中国北京。我们将致力于搭建全球互联网共商共建共享平台,推动国际社会顺应信息时代数字化、网络化、智能化趋势,共迎安全挑战,共谋发展福祉,携手构建网络空间命运共同体。