由清华大学主办，人工智能国际治理研究院承办，联合国开发计划署（UNDP）作为国际支持机构的“2021人工智能合作与治理国际论坛”于12月4日至12月5日在清华大学成功举行。此次论坛吸引了来自全球相关学术机构、高校、国际组织、企业等几十家单位共同参与，就如何构建一个平衡包容的人工智能治理体系深入研讨。

本次论坛下设三大主论坛，围绕“如何构建一个平衡包容的人工智能治理体系”“人工智能技术前沿与治理”“元宇宙未来治理前瞻”展开讨论。同时还设七大专题论坛，探讨人工智能伦理与治理中的跨文化信任、在相互依存的全球数字时代弥合数字鸿沟、人工智能与国际安全、人工智能与气候行动、人工智能与算法公平、国际数字治理与企业可持续发展、人工智能与社会发展等热点话题。

“从治理理念到治理实践，

构建平衡包容的人工智能治理体系”

12月4日，清华大学人工智能国际治理研究院院长、国家新一代人工智能治理专业委员会主任、清华大学文科资深教授、苏世民书院院长、公管学院学术委员会主任薛澜出席2021人工智能合作与治理国际论坛，并在主论坛1“如何构建一个平衡包容的人工智能治理体系”上作同名主旨演讲。

我们特将发言内容整理如下，经薛澜教授本人授权，全文分享给读者。

”

非常高兴向大家介绍人工智能国际治理研究院最近一年以来做的研究！刚才，白雅婷女士讲到人工智能国际治理的目前情况，谈到全球已经出台了100多个原则、准则、伦理规范，但是目前好像还缺乏比较完整的体系，所以我们清华大学人工智能国际治理研究院在过去这一年做的一些工作，就是希望能够构建一个比较完整的框架，下面我就来给大家做介绍。

大家手上有这个报告《构建平衡包容的人工智能国际治理体系》，但这个报告目前还只是一个讨论稿，还在不断完善的过程中，所以我们也希望大家能够给我们提出宝贵意见。

《构建平衡包容的人工智能治理体系》报告内容

（清华大学人工智能国际治理研究院，2021）

首先人工智能治理，刚才各位领导都讲到，我们现在已经进入到从理念层面到实践层面，今年9月25日，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》。政府一方面要鼓励企业的创新发展，另一方面也要提供有效的治理框架和相关的规则。我们特别强调的是求同存异，争取各国文明的“最大公约数”，通过建立多边协同共治的方式开展国际范围内的人工智能治理。在这些方面，我们思考的重点是，怎样把现有的各种准则、行业规则、技术标准等等，纳入到统一的框架下。

从人工智能到人工智能治理及其挑战

人工智能治理的定义

（清华大学人工智能国际治理研究院，2021）

人工智能的定义，在座大家都清楚，我们大致都有一定程度的认知和概念，具有一定的共识性；但对于人工智能治理，要给出一个被大家都完全认可的定义，却不是那么容易。人工智能治理随着人工智能发展，也在不断的演进，各种准则、各种报告推出的很快，某种程度上加剧了这一点。如果我们暂时不考虑定义，那么首先来看，人工智能治理目前面临什么样的挑战？

最核心的几个内容，首先就是基本要素——数据与信息，尤其是新一代人工智能以数据为驱动要素，数据相关的治理挑战就是，怎样建设高质量数据集，另外，怎样让公共数据集更大程度地开放共享，让社会更好的应用它进行创新和发展。第二就是算法，算法我们后面还会展开谈。第三就是算力，怎样保持核心软硬件的持续性创新，另外在国际竞争环境下，保持有效供给，不能被一两个国家垄断，最终阻碍人工智能的整体发展。最后就是场景，其实人工智能下一步更大的治理挑战是在人工智能的具体应用场景下，怎么样能够把治理理念、治理原则、伦理规范更好的应用到具体场景中，是人工智能治理取得成效的关键。

人工智能治理体系的基础框架

人工智能治理体系基础框架

（清华大学人工智能国际治理研究院，2021）

如上图所示，这是我们人工智能国际治理研究院提出的人工智能治理的基本框架。首先，治理基本原则和价值体系，也就是大家在共同提倡的原则或准则。在这方面，各国的很多基本准则有高度的相似性。那么，我们又怎样能够把需要治理的问题、主体、对象、机制等融合在一个框架下呢？从“数据、信息、知识、算力”，数据治理、算法治理、算力治理，都可能是我们要关注的治理对象。这其中还涉及到一个从知识、信息到数据的治理过程和从数据到知识的学习过程。如果从治理主体来讲，首先有政府，政府代表公权力，对技术和技术行为进行治理，存在必要性和合法性。另外，有社会各方面主体的参与，个人或者社会组织、媒体、高校、平台、国际组织等等，这些都是治理主体层面的考虑。治理工具方面，其实就是通过法律制度体系、技术标准、行业准则、规范体系，这是我们的各种治理工具。我们是通过主体，运用工具，对上面这些问题进行治理。这里面有一个特殊的地方，就是数据、算法、算力，最终的落脚点是应用场景，在场景中，人类和人工智能进行交互。从治理角度来讲，通常希望降低技术风险，使社会效益最大。因此，我们有各种不同类型的场景，从技术的治理风险角度来讲，有的是大概率、大损失的，我们要高度关注的。还有一些是小概率、大损失，所谓“黑天鹅事件”，我们也要高度关注。另外，还有很多小损失的，相对来讲不用太多担心，保持持续关注就好。我们把这些治理元素纳入其中，一方面是从技术角度，另外是应用角度，形成了现在的这个基本框架。下面我就逐一介绍下人工智能治理体系中的各个元素。

价值导向方面，这么多治理准则，有相当一致的共识。包括底线思维、人本思维、发展思维、全球思维，是价值导向中比较突出的共识。这也意味着，在价值建构中，治理主体实际上起着比较大的作用。

治理主体方面，确实不仅仅是政府一家，需要有社会各方面主体的积极参与；而且，尤其是国际组织，在全球共识的形成中要发挥更大的作用。多元治理主体在人工智能社会技术系统中拥有不同的权威、资源、利益与限制，通过各种正式与非正式渠道进行广泛互动，构成治理机制复合体。

治理对象，第一个就是数据。大家都知道，数据自身的安全，数据自主可控和宏观安全，这是我们要高度关注的。第二，算法也是聚焦点，它的稳定性、安全性、可解释性、公平性，如果一旦治理不当，可能会产生各种问题。第三，算力。一方面，怎样寻求多边合作共赢，避免技术垄断，大家知道芯片技术等等，各个国家都希望在算力上的安全可控。另一方面，怎样适应人工智能技术和产业高速发展的需求，突破现有的技术发展范式和硅基物理极限，未来新兴技术的探索也是需要的。第四，刚才致辞嘉宾和领导都特别提到人工智能社会影响，跟我们整个人类社会发展的目标，现在也就是联合国可持续发展目标，怎么样更好的衔接。这其中，涉及到对技术负外部性的合理认知。外部环境，或者说，是如何应对人工智能技术的外部性，尤其是负外部性影响，给出必要的补偿或者救济。第五，也是比较特殊的一个治理对象，场景。人工智能需要应用在各种具体场景下，如果分一下，从发生概率和可能潜在的损失两个维度，风险分析和风险研判一般是用这两个维度考虑，就会有各种不同的场景。在这些场景下，怎样能够针对这些场景中存在的（包括潜在的）问题，更加具体的应用，提出更加具体的治理准则、治理机制和治理工具。

多路径多层次的人工智能治理机制

人工智能治理机制

（清华大学人工智能国际治理研究院，2021）

从人工智能治理机制来讲，首先需要做的就是形成基本价值共识。从目前全球范围内发布的各种准则来讲，大家如果看一下，国家新一代人工智能治理专业委员会和G20共识，包括联合国的，其实内容上都比较一致。虽然各具特色，但是，最核心的内容，还是怎么样从包容、共享、审慎、负责的价值原则对人工智能发展提供相关引导。

第二个治理机制是怎样促进治理主体分工协作。大致上，我们识别出四类主体：政府部门、人工智能技术提供者、人工智能技术使用者、社会公众和第三方组织等。第一，政府部门要对人工智能技术提供者（包括研发组织、平台组织、高等院校等等）进行一定程度的赋权；同时保持有效的监督，技术应用方面亦是如此。第二，人工智能技术提供者和组织也要积极和政府部门进行有效互动，充分赋能我们的政府部门，提高公共服务的质量和效率。第三，人工智能技术使用者要与技术提供商进行合作和互动，同时要接受政府部门的监管。这样的话，一方面是有效监管，另一方面是进一步赋能和优化。另外，社会公众、第三方组织、……等社会主体积极参与，对全要素、全对象和全过程，提供及时有效的监督。

第三个治理机制是怎样保持迭代优化，这点也是我们在人工智能治理方面，特别强调，也是特别独特的地方。原来，传统技术治理领域，技术应用往往需要经过几十年的扩散过程，在社会上只能达到70%、80%的渗透率。但是，人工智能技术的创新发展和应用扩散都非常快，在短短的几个月，甚至几天，一下子就能拓展到成百上千万的用户，技术发展非常快。这样的话，很多治理规则，相对来讲，就很难像传统治理方式，经过多方审慎的研讨，达成共识再出台，这时候技术早都已经“飞”到规则前面去了，技术发展和治理规则之间存在一个时间差。面对这种情况，我们要保持各种治理机制和治理模式相结合。首先是探索性治理，或者，另外一个说法就是前瞻性治理，先预想到潜在的风险，怎么样有效的避免不利的情况发生。其次是适应性治理或者敏捷治理，我们要小步快跑式的尽快跟上，但也不要追求“完美主义”，很多治理规则，一旦追求完美主义，就跟不上了，要有效的平衡治理效果和治理节奏。

合理利用治理工具

人工智能治理工具

（清华大学人工智能国际治理研究院，2021）

最后一点，我们要使用多样化的治理工具组合。按照中国的特点，我们在做很多事情时一般都会有一个总体规划（宏观治理工具）。例如，人工智能的发展规划（2017年实施的《新一代人工智能发展规划》）给我们提供了发展框架，提出了怎么发展、怎么治理的问题，怎么平衡包容的问题，同时也有相关的法律法规、伦理规范；当然，需要将这些宏观工具和具体的应用进行有效的结合。

在中观层面，我们在社会的层面怎样从宏观尺度对人工智能技术，对社会的影响进行更好的社会应用观察和实验，这方面苏老师有更详细的拓展，我就不多说了。

在微观层面，在具体技术应用方面，技术标准对企业来讲是更关键的治理手段，包括强制性标准和推荐性的标准。在一开始，没有拿的很准的情况下，是推荐性的标准；一旦有相关共识，就可以变成一种强制性的要求。另外，技术手段本身，也在治理过程中可以发挥更大作用，我们在人工智能治理专业委员会讨论的时候，当时李开复就讲到，对人工智能的治理，我们能不能像设计一个旋钮一样，给大家提供选择，包括对它的开放性、对数据的要求，有更多的选择权。这背后就要靠技术自身的创新。正如刚才姚先生讲的，从技术手段来讲，怎么样采取一些措施，保证一方面大家可以把数据拿来用，另一方面对数据安全和隐私保护有一个有效的治理。

我的发言就到这里，更多更精彩的内容请大家阅读我们的报告，特别希望大家对我们报告给予更多的意见建议，谢谢大家！

2021人工智能合作与治理

国际论坛

此次论坛由清华大学主办，清华大学人工智能国际治理研究院承办，联合国开发计划署（UNDP）作为国际支持机构，得到了慕尼黑工业大学人工智能伦理研究所、剑桥大学未来智能中心、人道主义对话中心、中国科学院自动化研究所、中国新一代人工智能发展战略研究院、清华大学人工智能研究院、清华大学智能产业研究院、清华大学战略与安全研究中心、人工智能治理研究中心、清华大学中国科技政策研究中心、清华大学科技发展与治理研究中心、清华大学全球可持续发展研究院、清华大学产业发展与环境治理研究中心、SPARK可持续发展创新实验室（成都）、中国科协科学技术传播中心的合作与支持。

大会期间共有海内外40余家媒体，60多位记者参与报道，据不完全统计，大会期间涉及”2021人工智能合作与治理国际论坛”的网络媒体报道及转载300余篇，包括人民网、新华网、中国新闻网、光明网、中国网、搜狐、新浪、网易、腾讯等中央及主流网络媒体。纸媒报道160余篇，包括《科技日报》《工人日报》《中国青年报》《中国日报》等。论坛直播收看人次累计达300万，微博相关话题传播达200万次。

阅读原文，进入研究院官方微博，观看直播回看供稿丨清华大学人工智能国际治理研究院