十年百人谈 | 朱禹涛：打造“安全可信”人工智能，须做好相应规则制定

　　【乌镇峰会·十年百人谈】

　　今天我们对话的是：

　　金砖国家未来网络研究院中国分院院长朱禹涛

　　“大家对人工智能无限期待，但也担心技术无限度发展会对给人类带来危害。”

　　金砖国家未来网络研究院中国分院院长朱禹涛表示，如今，包括金砖国家在内的国际社会一直在探讨人工智能发展带来的安全问题。

　　朱禹涛表示，对于未来打造人工智能核心安全问题，有以下几方面考虑：

　　首先，人工智能必须可信可靠。未来，人工智能必须保证在任何时候、任何场景下，都能提供稳定的服务。即使出现问题，自身程序也能进行自我修复。此外，程序还需采取相应的信息安全保护措施，稳妥处理用户隐私数据。

　　其次，人类需要理解人工智能的运作方式。人类需要理解人工智能的思考逻辑与计算方式，包括人工智能是如何利用所谓的“大模型”进行学习的。人工智能只有具有高度的透明性与可解释性，才能被接受以及充分利用。

　　最后，人工智能要遵守伦理道德，即人工智能究竟能不能像人类一样理解人类社会的价值观和道德准则。只有在有效防范和化解其可能带来的伦理道德风险的基础上，才能更好地发挥其对经济社会发展和人类文明进步的积极作用。

　　人工智能具有极大的发展机会，但我们需要从可信性、安全性、可解释性等方面制定好相应的规则，并加强国际合作，让它按照人类社会准则运行和服务，更好应用于各行各业。