陈忠林 | 人工智能的事实定位与法律应对

微公益网 2019-07-11

点击上方“互联网法学”可以免费订阅哦!

2018年11月24日-25日,由浙江大学、浙江省人民检察院、阿里巴巴集团、蚂蚁金服集团主办,浙江大学立法研究院、浙江大学光华法学院互联网法律研究中心(“大数据+互联网法律”创新团队)承办,浙江靖霖律师事务所协办,以“共享未来”为主题的2018互联网法律大会·国际论坛,在杭州召开。在国际论坛上,重庆大学法学院教授、博导,中国刑法学会副会长陈忠林老师就“人工智能的事实定位与法律应对”做了主题演讲。以下为陈忠林老师的发言内容:



陈忠林

重庆大学法学院教授、博导

中国刑法学会副会长


各位领导、嘉宾,各位新老朋友:

今天我与大家交流的题目是“人工智能的事实定位与法律应对”。


一、一个四十多年前的想法

这个话题源于我40多年前的一个想法。上世纪70年代,我在上海出版的《自然辩证法》杂志上看到一篇报道。那篇报道说,前苏联科学家在那个时候就已经发现当时的计算机已经开始有了自我修复、自我完善的功能。看到这篇报道,我的第一想法就是:计算机的这个功能一定要处于人类的控制之下,否则,这种可能为人类造福无限的技术,也可能成为人类前所未有的噩梦。


我先说明一下几个相关的用语。首先说明什么是“人工智能”这一概念中的“人”。我认为,借助人工智能与其他技术,将来的人可能与今天的人表现形态完全不同。未来的人,很可能会以一种百病不侵、长生不老的数字化形态存在,也可能会是一种无处不在、无所不能的量子形态存在,.......。但无论如何,将来的“人”,都应该是指今天的自然人的自我意识为基础、为核心发展起来的一种物质存在形态。未来的“人工智能”与“人”的关系如何,完全取决于今天的人类的选择。这个选择,就是我今天要谈的人工智能的“事实定位”。题目中所谓的“法律应对”,则是指对于我们应采取什么样的法律措施来保证人工智可能按我们希望的方向发展。



二、今天的现实性与紧迫性

今天,认真探讨这个40多年前想到的问题已经有了非常现实且紧迫的意义。说这个问题具有现实性,首先是因为今天的人工智能已经开始显示出了理念脱离人类控制的可能。在某些领域,计算机已经显示出远超于人的智能,而令人深思极恐的是:有报道说,计算机已经开始发展出自己的感情、感觉。如果是这一报道真的,一旦计算机开始觉得苦,觉得无法忍受,开始憎恨人类,我们该怎么办?


除了计算机能够经过自我完善摆脱人类控制这种可能之外,是否应在法律上赋予人工智能与人相似地位,今天已经成为不少国内外的正式组织、机构、学者认真考虑的问题。所以,是否应该允许人工智能发展相对独立于人的功能,就成为了一个非常现实的问题。


说这一问题具有紧迫性,是因为计算机发展的速度太快了,据说每18 — 24个月其能力可能翻1倍。按这种速度发展,完全可能出现许多我们现在根本不可能预见的情况。如果现在不考虑为人工智能发展可能带来的风险,并用法律来控制这种风险,人类的未来就可能会处于一种极其危险的境地之中。



三、人工智能的三种事实与法律定位

关于人工智能的发展方向,有三种可能可供人类选择:

第一,将其定位为一种服务于人类的技术,即只发展其服务人类的功能,不允许其有独立于人的“意识”;


第二,将其定位为与人类地位平等的智能形态,即允许其发展相对独立于人的认知、控制能力;


第三,放开限制,任其自我发展,即不限制其最终成为世界的主人。


与上述三种事实定位相应的是人工智能在法律上的三种定位:

第一,如果将人工智能的发展方向限定为服务于人类的技术,其就只是人类制定的法律的客体,即它只能是人的财产权、人身权,甚至是公共利益或公共秩序的载体;


第二,如果视人工智能为与人类和平共处的智能形态,那它就应与人类同是法律上的主体,就应与人享有相同、至少相似的权利和义务;


第三,如果任人工智能的自我意识自由发展,其最终必将成为世界的主人。理由很简单,今后的人不论在物理控制力或者精神控制力方面都不可能是人工智能的对手。只要人工智能具有完全独立于人的能力,人类就必将成为人工智能所制定的法律的客体。



四、应有的法律应对

上面所讲的人工智能的第三种事实与法律定位,显然是现在的人类所不愿意看到的,而第二种定位则可能完全是一些人的一厢情愿。如果今天的人工智能已经有了与人类相似的认知与控制能力,那么在仅仅10年后,它的能力就可能比人类强近10万倍,12年后就会比人类数十亿倍........。大家不妨想象一下,在这种情况下,它如何才能与人类平等?


这样,人类就只有一种理性的选择:将人工智能在事实上定位为服务人类的技术,在法律上定位为人类法律的客体。对于人工智能的发展前景,我是一个谨慎的乐观主义者。但为了避免其成为人类的毁灭者,我们今天就必须行动起来,在法律上采取一切可能的,比防止大规模杀伤武器、生化武器、恐怖主义犯罪更严格的措施,防止人工智能发展独立于人的自我意识和能力,才能保证人工智能成为人类的福星而不是噩梦。    



编辑:李莹

延伸阅读:

2018互联网法律大会·国际论坛开幕式丨群英执笔,待书华章

2018互联网法律大会群英录 | 国际论坛+人工智能法学论坛

2018互联网法律大会·国际论坛单元综述丨数字经济的法治保障+中外互联网法律前沿
刘品新丨电子证据的第三方存取证

主编编:李世阳,朱佳俐

ab编:李明哲,龚    茗

来稿请投:zjulaw@aliyun.com

转载须授权