2022年世界互联网大会乌镇峰会落下帷幕，作为新一轮科技革命和产业变革的重要力量，人工智能同实体经济和社会生活深度融合，重构全球创新版图，重塑全球经济结构。身处这一变局中，如何顺应产业发展趋势，塑造健康的伦理价值，是全球共同面对的重大命题。

11月10日下午，人工智能与数字伦理分论坛上，清华大学人工智能研究院名誉院长、中国科学院院士张钹，鹏城实验室主任、中国工程院院士高文，之江实验室主任朱世强等人工智能与数字科技领域的知名专家学者，以及微软、阿里巴巴、科大讯飞等人工智能和数字领域的头部企业负责人共同围绕人工智能技术、应用和产业发展过程中的安全风险治理与数字伦理建设等问题展开深入探讨。科大讯飞高级副总裁杜兰获邀线上参会，她从个人数据安全、打击数字犯罪、构建可信AI等维度分享了最新的思考。

如何保护个人数据安全和隐私？

杜兰分享了科大讯飞的一些最新探索，包括在一些人工智能应用或为合作伙伴提供的家庭音箱控制中心系统上设置离线版本，让数据只停留在本地而不上云，通过半监督、无监督等先进的人工智能技术不断迭代升级，让AI训练需要的数据量不断减少，来进一步提升数据安全和隐私保护。

如何避免DeepFake这样的深度伪造技术成为犯罪分子造谣诈骗的工具？

杜兰谈到了去年欧洲一起诈骗案，犯罪分子利用AI技术模仿一位CEO的声音骗走了22万欧元的极端案例，“在这方面，有‘矛’就有‘盾’，讯飞也在研究基于数据驱动的深度学习假音检测算法，可以自动检测出是人的声音还是机器合成的声音，未来可以通过这些技术来为用户提供安全预警”，针对预防AI造假犯罪的问题，杜兰还提出，可以结合其他技术来提高身份认证的安全性，比如在一些场景中运用区块链技术，以证书授权实现双向认证，来确保参与方的身份真实性。此外，还可以通过权威机构来牵头搭建常态化的公共演进平台，用户在平台上不断演练，不断提高打击技术犯罪的能力。

在关乎国计民生的重大领域，如何构建更加值得信任的人工智能？

对此，杜兰认为，人机耦合是非常重要的方法，她分享了在教育和医疗领域的探索实践。在教育领域，搭载了AI系统的智慧教育解决方案，它的价值不是代替人类老师去教学生，而是帮助降低学生的无效重复训练时间，提高老师的备课效率，从而解放师生精力，这样学生就可以有更多时间“五育并举”，从而更好地实现“因材施教”。在医疗领域，搭载了AI能力的智医助理已经学习了数十本医学著作、数百万篇医学论文，积累了上亿次诊断病历，为患者诊断时，人类医生借助智医助理，通过“人机耦合”的紧密协作方式，可以高效避免误诊或者漏诊。

“无论是教育、医疗，还是城市养老等，这些涉及国计民生的重大刚需领域，非常需要我们重视发展可信、可靠、可解释、负责任的人工智能，通过有效的人机耦合为各行各业提供优质解决方案”，杜兰认为，有一个正确的伦理价值观，将会决定这个产业能走多远。“我们始终相信，未来，比人类更强大的不是人工智能，而是掌握了人工智能的新人类。”