阿里安全探索“用AI治理AI” 促进人工智能可持续发展

【猎云网（微信：ilieyun）北京】3月9日报道

元宇宙这个新兴概念一度火爆出圈，伴随着人工智能等技术的发展，引发各领域公司的加速布局。

距扎克伯格提出元宇宙已经过去四个月了，各公司布局元宇宙的情况如何？相关技术的发展会对普通人的生活带来哪些影响？记者了解到，3月6日，阿里巴巴安全部邀请了三位技术领域嘉宾，围绕虚拟世界和AI风险治理与网友们展开交流。

（图说：《2022元宇宙还香吗》直播访谈现场）

访谈中，游族网络首席技术官李斌以游戏《我的世界》为例，介绍了在接近于元宇宙的游戏里，网友们可以自由建造属于自己的“世界”。在游戏里不同城市建筑的样貌被还原，“很多专业团队已经加入到这个世界中，这里可以由一群人建造一些虚拟的，但具备艺术性、个性化的场景。”李斌说：“人们可以通过这些场景了解不同的文化、历史、地理，并在这个场景中一起互动。”他认为之后会有更多网友加入到这种开放式虚拟世界的自由创作中，有更多更具想象力和创造力的作品诞生。

淘宝Buy+ VR产品负责人云治向网友们描述了未来元宇宙中更加便利的生活和工作场景。譬如未来办公时，人们可以不被电脑显示器束缚，只要戴上VR或AR眼镜，不同尺寸的屏幕便展现眼前，甚至可以随意切换办公场景。在进行家居装修时，可以用虚拟现实设备投射出喜欢的设计方案，直观体验设计效果。人们还可以置身于各类动漫场景中，与动漫人物零距离接触，或者与虚拟伴侣产生更直接的交互。

阿里安全高级算法工程师郎一宁表示：“元宇宙是更高维度的互联网，它从二维的屏幕升级到沉浸式的互联网空间。”从此以后，万物皆可互联，全世界都是你的屏幕；内容制造与分发的逻辑也将发生改变，更多普通人参与到内容创作中；可穿戴的设备也会使人与人之间的交互更加便捷。

虚拟世界带来的体验可以增加人们经历的丰富性，让人们获得更多感受。但其中也会存在一些安全风险。如果技术可以做到与真人完全一样的虚拟人，那以后我该如何证明“我”是我？

去年，英伟达创始人兼首席执行官黄仁勋在一场主题演讲中，用一段14秒的“彩蛋”展示3D仿真模拟平台的技术，制作出了黄仁勋线上厨房的完美虚拟复制品及其本人的数字克隆，骗过了众多网友。

这种被称为“视觉欺骗”的安全问题是近年来在AI应用领域新出现的风险之一。“什么是视觉欺骗？就是你以为眼中看到的是真的，其实不是，而是合成出来的。”阿里安全高级算法工程师郎一宁称。

在视觉欺骗的风险下，人人都可能面临肉眼无法识别的视频真假问题。对此，现阶段包括阿里巴巴在内的多家互联网公司已经有了解决的办法。据郎一宁介绍，以往针对深度伪造视频检测的方案主要分两类：帧级检测和视频级检测。帧级检测方法标注成本高，还要将帧级预测转化为视频级预测，对融合技术要求高，极易导致漏检或误检。视频级检测研究则过多专注于按照时序构建的检测模型，导致检测效果受到一定限制。研究只依赖视频级别标注就获得好的检测效果，对保障未来虚拟世界的安全具有重要意义。

直播中有网友提出，如今的技术发展水平，离元宇宙的实现还有很长的路要走。现在提元宇宙的风险治理问题会不会太早？郎一宁表示，AI治理的发展不应该落后于科技发展。

在未来，人们的嗅觉、触觉、味觉、痛觉都有被欺骗的风险。这个融合了AR、VR、MR、AI等技术的未来世界，是现实和虚拟高度融合后的产物，也可能带来一系列的安全问题。

“人工智能发展到目前的阶段，能做的事情已经非常多了，如果我们不做一些模型的约束，不增加鲁棒性，那么未来它很可能会有失控的风险。”而如何更好地应对其中的安全风险，用魔法打败魔法，用AI治理AI，这也是是阿里巴巴人工智能治理与可持续发展实验室（AAIG）正在研究的方向。

“实现AI算法可持续发展，是治理的初心。”郎一宁表示，AI算法已经成为我们生活中不可或缺的一部分，为了避免快速发展中产生的不良因素，让其可持续发展，必须有一些治理技术和理念。

他认为，坚持技术可用、可靠、可信同样重要。“可用”即指基于算法实现的功能，将为人们生活带来更便利的体验；“可靠”即指技术具有稳定性，面对海量数据涌入，不轻易崩溃。目前的开源技术、云计算等发展，使得技术可用、可靠两个层面都可实现，而技术“可信”则面对更高的要求，算法防御性、公平性等都是实现技术可信的要素。

“在此基础上，我们还要通过多方参与协同共治，达到治理与发展平衡。”郎一宁说，多方参与不仅指不同的互联网公司之间，也包括学界、行业等不同领域的协同共治。

“我觉得AI治理最大的价值，就是能够让人工智能可持续发展。”谈及AI治理的价值，郎一宁称希望能够给人们提供一个更可靠可信可用的人工智能。“这样，当我们真正走进元宇宙的那天，它才是自由且安全的。"