蚂蚁首度公开“可信AI”架构体系 包括数据隐私保护、公平性等四方面

由中国人工智能学会、杭州市人民政府主办的“2021全球人工智能技能大会”日前在杭州举行。蚂蚁集团首席AI科学家漆远在会上初次提出了“可信AI”的技能架构系统，并共享了蚂蚁集团根据该技能架构系统研制落地的多项使用效果。

据悉，本次“2021全球人工智能技能大会”共邀请了31位中外院士、以及来自世界各地的人工智能范畴专家，一起为人工智能的开展建言献计。会上，蚂蚁集团首席AI科学家漆远教授以《人工智能与危险-从创新到落地和管理》为主题进行了共享。

漆远表明，AI是数字经济的源动力，保证AI的安全性和公正性是职业共性课题。环绕“可信AI”这一技能出题，他提出了包括“数据隐私维护”、“鲁棒性”、“可解说性与因果剖析”和“公正性”四个方面的技能架构系统。

在“数据隐私维护”方面，传统的数据维护办法客观上形成了“数据孤岛”，影响了如医疗、金融等范畴的协同作战，也限制AI技能以及职业开展。因而，拓宽数据价值的隐私计算技能，对完成“数据不动价值动”显得尤为重要。

漆远泄漏，到本年3月，蚂蚁集团隐私技能专利申请数量以740个位居全球榜首，落地实践效果丰厚。比方营销反作弊场景下，协助超越1万家合作伙伴辨认薅羊毛危险，节约营销资金超300亿。

在进步模型“鲁棒性”（Robustness）方面，为了应对黑产进犯、并使得模型能习惯复杂多变的数据环境，还需求引进博弈论思维生成进犯手法，并进行智能防护，经过左右手互搏，加强抗冲击才能。据悉，蚂蚁集团正在危险买卖辨认、黑灰账户身份辨认等风控场景继续打磨这项才能。

关于“可解说性与因果剖析”，漆远解说，AI模型不能是黑盒。“人类期望知道模型背面的逻辑、收成新的常识，并在它出现问题时踩好刹车，保证AI合规合法。”他以为，这背面需求数据驱动与模型推理才能结合起来，发生可解说的成果。现在，蚂蚁集团现已将这项才能在智能风控、投诉审理，反洗钱等范畴广泛使用。

“可信AI”的技能架构系统还需求处理模型公正性问题，坚持技能的敬畏心，在注重社会道德准则下进行AI调优。经过AI技能，让老年人、残障人士、欠发达区域用户，享受到数字经济时代的价值，这也是AI公正性的表现。漆远泄漏，蚂蚁集团已完成了“空中手势”验证码辨认计划的研制，协助视障人群经过“滑动验证码”关卡，该计划将免费开放给更多企业。