Share - WeChat
据媒体报道
OpenAI与Anthropic
两家人工智能公司
之间的商业竞争日趋激烈
双方都在寻找一切机会
抢占先机
近日
OpenAI承诺
不会留存使用
其人工智能模型的
企业客户数据
同时提升产品安全能力
意在从竞争对手Anthropic
手中抢夺客户

推出“零数据留存”服务
OpenAI近日宣布
面向部分符合资格的
大模型客户
开放“零数据留存”服务
OpenAI表示
随着模型承担更长、更复杂的任务
部分严重安全风险
可能要在多轮交互后才会显现
现有兼容ZDR的安全系统
通常只能逐条评估交互
难以识别跨对话、跨账户
或持续试探安全机制的行为模式
若不留存部分客户数据
就很难保障工具被合规使用
为解决这一问题
OpenAI以预览版的形式
推出“私密安全处理”功能
该机制能够在
不让OpenAI员工
接触底层内容的前提下
利用自动化系统
分析关联交互中的风险模式
OpenAI强调
请求处理完成后
不保留提示词或模型回复
员工无法审阅客户内容
企业数据也不会用于训练模型
OpenAI表示
私密安全处理机制
目前正进行早期客户测试
计划于9月正式推出
隐私政策形成鲜明对比
有媒体表示
OpenAI的“零数据留存”
与Anthropic此前推出的政策
形成鲜明对比
Anthropic的政策允许其
对“受覆盖模型”的用户数据
包括所有会话
及其中的对话内容
保留30天
这一政策于今年7月发布
涵盖所有Fable、Mythos级别模型
及“未来具备类似能力的模型”
初衷是出于安全考量
便于对潜在违规行为
进行筛查分析

据媒体报道
这一政策令众多企业客户感到不安
尤其是涉及敏感数据的行业
部分企业还担忧
其数据可能被用于训练新模型
进而帮助Anthropic
开发更多竞争性产品
除此之外
Anthropic还表示
人工审查客户数据的情况确实存在
但须通过
“受控访问路径”进行
相比之下
OpenAI则表示
客户数据将保留在
客户控制的基础设施
或密钥由客户掌握的系统上
公司员工将无法查看
模型提示、回复或其他敏感信息
双重政策引发全球热议
白宫人工智能顾问、风险投资家David Sacks
微软首席执行官萨提亚·纳德拉
以及硅谷科技公司Palantir负责人等
科技界人士认为
企业需要确信
人工智能公司不会保留其数据
尤其是在医疗保健
和金融等受监管行业
OpenAI产品政策负责人
对此发声表示
已从企业方面
听到非常明确的声音
那些为其他企业服务
并将其极其敏感的数据
托付给自己的人
通常都会对客户做出承诺
有媒体认为
OpenAI这一举措
凸显了其在人工智能竞赛中
追赶Anthropic的努力
同时也安抚了部分批评者
他们担心公司工具
缺乏足够的安全防护机制
无法防范网络攻击或模型失控
带来的其他危害
2022年7月12日,世界互联网大会国际组织正式成立,从互联网领域的国际盛会发展为国际组织,总部设于中国北京。我们将致力于搭建全球互联网共商共建共享平台,推动国际社会顺应信息时代数字化、网络化、智能化趋势,共迎安全挑战,共谋发展福祉,携手构建网络空间命运共同体。