可信AI 为AI列一张“负面清单” 给这件事的发展指明了方向

2021世界人工智能大会进行至第二天，华为、京东、蚂蚁等企业，中国信通院、中科院中英人工智能伦理与治理研究中心等研究机构，清华、复旦、交大、浙大等高校，共同发出了一份倡议——《促进可信人工智能发展》。

对很多非业内人士来说，看到“可信人工智能”（简称“可信AI”）这组词语时，一定满脑疑惑：AI还有“可信”和“不可信”之分？

“通俗点说，‘可信AI’的一个最显著特点就是以人为本。”金砖国家未来网络研究院中国分院院长朱禹涛解释。

业界共识：论文和应用探索齐增

若从上世纪50年代算起，人工智能发展到今天已经历三次浪潮，目前正处于从第三次浪潮迈向第四次浪潮的阶段。自从进入第三次浪潮，人工智能技术迈入产业化阶段，并成为第四次工业革命的核心技术，开始融入人们生产生活的方方面面，展现出变革赋能的巨大潜力。然而，人工智能应用的风险与隐患也不断显露，比如算法安全导致的信用风险，黑箱模型导致算法不透明，数据歧视导致智能决策偏见，系统决策复杂导致责任事故主体难以界定，数据滥用导致隐私泄露风险等，引发人们对人工智能信任程度的思考。

2019年6月，二十国集团提出“G20人工智能原则”，并在其五项政府建议中明确提出“促进公共和私人研发的投资力度，以促进可信赖的人工智能的创新；需创建一个策略环境，为部署值得信赖的人工智能系统开辟道路。”目前，这项倡议已成为国际社会普遍认同的人工智能发展原则。

学术界其实比政策制定者们更早一步推开了“可信AI”的大门。2017年11月，来自上海的科学家何积丰在香山科学会议第S36次学术研讨会上，首次在国内提出了“可信AI”的概念，即人工智能技术本身具备可信的品质。当下，“可信AI”研究范畴包括安全性、可解释、公平性、隐私保护等多方面内容。

随着“可信”成为共识，产业界也紧跟学术界步伐，投入“可信AI”的研究。数据显示，在各界的共同努力下，2020年“可信AI”研究论文数量较2017年增长近5倍。京东、百度、腾讯、阿里等国内巨头，以及微软、谷歌、IBM等跨国企业纷纷设立相关部门或项目探索“可信AI”的应用实践。

中国实践：已落地多个风控场景

表面上看，当AI被打上“可信”标签，似乎限制在变多，这是否不利于未来人工智能产业的发展？

“其实并不是。”澳大利亚科学院院士、京东探索研究院院长陶大程认为，当一件事被规范化管理，并不意味着被限制，而是意味着给这件事的发展指明了方向。这就像给人工智能列了一个“负面清单”，在“负面清单”之外，人工智能的发展潜力可以被释放。

“一直以来，智慧城市建设的瓶颈就是数据不能互通和隐私如何保障的问题，这也是中国智慧城市一直停留在1.0阶段的重要原因之一。”朱禹涛表示，但如果通过“可信AI”建立一套脱敏的数据存储和调用机制，就可以解决当下智慧城市建设所遇到的难题。“只有这个问题解决了，智慧城市才有可能迈入2.0阶段。”

除了智慧城市建设，“可信AI”还有利于推动传统产业数字化升级。“‘可信AI’是数字时代‘抵御风险’的关键能力。”蚂蚁集团副总裁、首席AI科学家漆远介绍，在中国，“可信AI”技术目前已在反欺诈、反洗钱、反赌博、企业联合风控、数据隐私保护在内的多个风控场景下落地，支撑着企业防御风险的需求。

“‘可信AI’是人工智能发展的方向，当前中国已开展了很多前沿的研究。未来，需要保持开放态度，加强国际合作，让中国的‘可信AI’实践走向世界。”朱禹涛呼吁。