大咖论道：“AI可信专题论坛”探寻人工智能可信发展的实现路径

在新一代人工智能发展持续创造空前商业和社会价值的同时，人工智能信任问题日益受到重视，“可信赖AI”这一概念成为各方广泛关注的焦点问题。如何构建人类和人工智能之间的信任? 人工智能技术、产品和应用应当遵循怎样的引导和约束? 可信赖AI又将如何影响人工智能行业发展？近期，在上海召开的中国人工智能产业年会“可信AI专题论坛”给出了答案。

思想碰撞、理论交锋。“可信AI专题论坛”聚焦可信赖AI技术与实践落地的发展图景，中国科学院院士何积丰，京东集团技术委员会主席、京东人工智能研究院院长、IEEE Fellow周伯文，复旦大学计算机学院院长姜育刚，以及国内各高校、院所、企业的顶尖学者在论坛上畅所欲言，分享可信人工智能的关键技术、创新难点及发展趋势，共同探寻人工智能可信发展的实现路径。

作为社会与经济转型变革的核心驱动力，人工智能在安防、医疗、自动驾驶、生物信息处理、智能制造、智慧金融等很多应用领域都得到应用。但人工智能算法也存在很多问题，包括不透明、不可解释、不公平、不安全、不友好、隐私泄露、算法滥用等。在此背景下，“可信赖AI”成为未来人工智能产业健康发展的必由之路。

“可信人工智能的要素之一，是让社会中的每个人都能从技术发展中受益，比如消灭歧视、推尚平等。”中国科学院院士何积丰指出，智能经济就是将人类智慧和知识转化为人工智能的过程。要实现这样的转化，需要人工智能技术，以及以人工智能为内核的软件和智能制造的协同发展。

复旦大学计算机学院院长姜育刚则表示，要通过“技术+规则”双轮驱动算法治理，推进人工智能算法的研究与应用，改善人类生活。“技术与规则联动，一方面研究更符合规则的人工智能算法，发展评估技术以度量现有人工智能算法的合规程度;另一方面通过规则自顶向下约束人工智能技术活动牵引其健康发展。”

京东集团技术委员会主席、京东人工智能研究院院长周伯文，因在人工智能领域的长期深耕，在刚刚结束的“吴文俊人工智能科学技术奖十周年颁奖盛典”中荣获2020年“吴文俊人工智能杰出贡献奖”。在此次 “可信AI专题论坛” ，他发表《“可信赖AI”是一个系统性建设的过程》主题演讲，并在演讲中指出，“可信赖AI”应包含六个维度：鲁棒性、可解释性、可复制性、公平性、隐私保护、负责任和价值对齐。以可解释性为例，其核心不仅是要能利用深度神经网络回答问题，还要能找到答案后面的“为什么”，为决策提供可信赖的依据。

以京东自主研发的全自动化商品反向定制系统为例。它已帮助某头部家电品牌商打造出业界首款全人工智能定制款的“爆品”冰箱。其原理是建立了两个神经网络并进行对抗博弈，一个神经网络阅读并理解公开透明的用户评论数据，理解用户对产品的喜好，为什么买，为什么不买；另外一个神经网络模拟冰箱所有可能的生产参数，包括形状、颜色、功能、耗电量、能级、门数等等。训练平衡后的最终产品设计，可以让生产商清晰了解到产品的用户群画像是什么？他们在哪里？区域分布是什么？这样不仅帮助生产商实现产品的反向定制，也能够预测该产品未来的销量和用户满意度情况。

人工智能治理过程中的公平性也是大会上专家们反复讨论的一个问题。为了降低技术使用门槛，使更多人能够公平享受到技术的便捷服务，京东科技做出了一系列尝试。周伯文介绍说，为了帮助老人消除数字障碍，京东科技为天津河西区打造居家养老服务管理平台，推出居家养老服务卡，集成服务结算，补贴发放，安全储值等功能，让老年人通过传统持卡消费的方式享受智能生活。此外，为了让每个用户都能够享受优质的个性化服务，京东还打造能够识别方言的智能客服，已能够准确识别四川、重庆、陕西、山西等地的方言，使越来越多的人能够自如地与AI系统进行语音交互。

对“可信赖AI”的后续发展和建设，周伯文博士强调，目前可信赖AI不论是技术层面，还是其满足的特性，AI从业者已慢慢形成共识，虽然提了不同的概念，但是概念相互之间有些只是不同角度的诠释，有些可以进行合并，所以概念方面也可达成共识。但共识之后，更重要的是我们如何从技术和伦理层面形成工作机制。技术层面包括数据、算法等不同的维度。学术界的数据、算法虽然非常多，但在与不同行业、应用系统之间的融合，仍有很多问题有待解决。数据、算法之外，AI系统的DevOps还有很多东西需要去做，比如整个生命周期中怎么开发、怎么运维、怎么修护、怎么运营，运营过程中怎么监管，都需要大家共同努力来完成。

周伯文认为，“可信赖AI”不仅仅停留在数据层、算法层，还需要对开发部署、全生命周期，包括部署以后的监管、运营，提供大量的工具、算法、模型来支撑，是一个系统性的工程。“每个人的个体知识和认知总是有限的，‘可信赖AI’需要学界、产业界、全社会共创共建。”