2022年11月10日下午,世界互联网大会乌镇峰会“人工智能与数字伦理分论坛”召开,全国人大宪法和法律委员会副主任委员江必新围绕数字伦理体系建构及落地路径等发表演讲。
尊敬的贤良秘书长,各位领导、各位专家、各位同仁和新闻界的朋友,大家下午好。非常感谢我们这个论坛的主办方邀请我来参加一个全新领域的论坛,对我来说是一个非常好的学习机会。
从昨天参加会议到今天,我一直在围绕这个主题不断的思考,原来有一个讲稿,但是后来我考虑结合最近几天的所见所听,我想谈谈个人的学习体会。
讲三点体会:
第一,我们为什么要建构数字伦理,建设一整套的规则秩序。简单归纳为“五个源于”。
第一源于数字技术和人工智能的二重性,带给我们很多利益,但是它带来风险,安全的风险等等,多方面的风险。这是源于它的本身的二重性。
第二源于数字网络的无边界性跨国性专业性非透明性,这样一个性质,为什么这种性质会需要一个伦理规则呢?因为外部的监管很难有效,很难完全有效所以需要有一套伦理规则,自我约束的一种伦理规则。
第三源于法律规范的局限性,和其他治理方式的局限性。治国理政的方式很多,有政治、德治、权治等很多种方式,法治是最基本的治国理政方式,法治本身也并不是完美无缺的,也是有局限性的,尤其是在跨国性,而且在模糊性非透明性专业性极强,有算法黑箱这种情况下,法治手段有时候鞭长莫及。所以德治伦理治理就显得非常重要。
第四源于伦理道德对于人性人类的不可或缺性。我们人类的终极目标是什么?为什么这么活?很多人类学家都回答这个问题,最终我认为有一点说服力的回答是人性的自主,人性的完善,这是我们最终的目的。正是因为这一点,我们需要有一个伦理,建构一个伦理秩序。
第五源于网络安全对于发展,对于人类道德的依赖性。我们要快速发展,我非常赞成朱书记的观点,我们不能因为这个去制约技术的发展。我们的目的还是要促进它高速的发展,但是越是高速发展,越是要有一个制度性,我们一个飞机,一个高速列车、高铁,如果没有一个很好的制度,反正我是不敢坐的,首先一定要有一个好制度,才能够速度高起来。这个伦理法律规则就是一种制度。我们制度的效果越好,就可以让它的速度飞得越快。
为什么要建构伦理呢?数字伦理、人工智能伦理呢?无外乎这么五个方面的源于。
第二,我们如何来建构一个伦理体系?直到昨天晚上我还是在想,怎么样系统的来建构一个能够概括覆盖我们所有的数字领域的一些伦理规则,后来我发现这个太难了,一个本身这个领域非常复杂,第二而且是不断的在变动之中,另外各个国家各个地区有它自己的特点和特有的价值观。怎么办?大道至简,怎么样建构这个体系?我觉得首先从人类的基本共识开始。
曾经参加过一个宗教大会,世界上所有的宗教共同能够形成共识的是什么呢?两句话,第一,己所不欲勿施于人,这句话是管作为的。第二,你希望别人怎样对待你,你就怎样对待别人,这是管不作为的,一个管作为,一个管不作为,这两句话构成了人类的基本共识,我们可以称为元规则。这是中国孔夫子讲的,恰恰是中国儒教的基本的一个理念,基本的一个规则,为人处事的规则。
基于这两个,可以分化为三条,三个方面的二级规则,可以把这两个规则作为元规则,作为一个顶层的一级规则,然后在这个规则的基础上深化出三个基本规则,三个基本规则我概括为:
一是拒绝自贱,要以人有福,能够增加人类的福祉,要尊重和捍卫所有人的自身的尊严和价值,不允许做出任何反人类、伤害人类的行为和设计。我觉得这就是之上我们刚才讲的科技向善、数字向善、人工智能、智慧向善。
二是拒绝虚假,透明互信,这个问题是求真,为什么把这个真的问题,为什么要纳入到善的问题,一个伦理的问题来看?因为现在我们面临着深度伪造等等一系列的问题。未来这个问题可能会更加显现和突出。
三是拒绝丑陋,美美与共,这是求美。
第二个层次的规则,三大规则就是求善、求真、求美,这也是人类的共识,大家都追求真善美。
第三个层次的规则,根据前两个层次的基本规则,我们根据不同的时期、不同的主题不同的环境不同的领域形成具体的规则,因为这些规则我觉得它既是多元的,应该是多元的,不要一刀切,也不可能一刀切。但同时又是变化的,根据情况不断的变化,因为我们现在还是初步阶段,人工智能是初步阶段,超强的人工智能将来用现在的规则显然不能约束未来的人工智能。所以它是变动的,不要指望毕其功于一役。
第三,怎样使规则从理念变为现实?因为这个东西靠内心,靠人的良知来约束的,所以它没有强制力,很难有国家的强制力保障,所以在这样一种情况下,建立什么样的机制才能使它变为现实?这是我们必须加以考虑的。我只是提出一个初步的想法,我概括为六全。
全理念,就是在理念上要处理好五类关系,第一规范和发展的关系,我们在不同时期不同的阶段,这个是要调整的,也时候以发展为主,也时候以规范为主。当前还在一个发展阶段,我们技术还有卡脖子的问题,必须要鼓励发展,但是要规范,但是我们要把手段和目的弄清楚。比如说规范与发展,要划定边界、底线,鼓励创新。第二要处理好问题导向和系统思维的关系,每一个时期都有一个热点,这里出来问题大家都在规范,那里出了问题要规范,问题导向是对的,但是不能完全跟着问题走,跟着问题走有时候缺乏系统思维,会带来一种倾向掩盖另一种倾向,治了个病,那个病又冒出来了一定要有系统思维。第三是要做到统筹运作,以分类分层分级分阶段相结合,一个要统筹,但是一定要分级分层分类分阶段,这不能说是一刀切,不能说越简单越好,大道至简,但是简和繁的关系,没有繁简不起来,所以只能是先简后繁,由繁返简,这个才是有效的。第四是宣传引领宣教引领与机制约束关系,一方面要宣传教育,更重要的是机制约束。第五,维护国家主权安全和发展利益,以构建人类命运网络数字科技命运共同体的关系,这个问题各个国家都面临,你不处理好,就不行,一方面中国特色,中国的价值观,但另一方面人类共同的价值,怎么样做到融合,这是我们建构这样一个伦理秩序必须要处理好的关系。
全主体,什么是全主体,每个人都有责任,对自己负责、对人类负责、对未来负责,这个主体包括设计者、生产者、应用者、消费者还有管理者,管理者、监管者也在其中,不能置身事外。全主体第一每个人都有责任,对自己负责,对人类负责,对未来负责。全主体还有一个含义,公平的对待每一个人。全主体的参与决策者使用者使用者,所以这叫全主体。
全链条,全链条就是要建立标准,要标准体系、评价体系,监测体系、问责体系、保障体系,所有的链条都要动起来、连接起来。
全要素,包括设计、算法、数据等等,与人工智能、与大数据所有的要素都要进行规范和设计。
全周期,包括设计、研发、供应、使用、监管等等,这是全周期的都要设计相关的问题。
全工具,就是建立行业标准、制定技术指南、伦理框架等等,还有政治引领,德治为本,设置辅佐机制支撑,尤其是解决这个伦理问题,约束机制问题还要最终靠人工智能技术本身,用技术问题来解决能力问题。怎么样通过技术来破解伦理问题,我觉得这是一个新的思维。