人工智能体法律主体地位的法理反思
|
摘要
人工智能技术带来的巨大风险引发了对机器人能否具备法律主体地位的追问。从法理论的角度来看,法律上的"人"一方面应当拥有享有权利和履行义务的法律资格(规范条件),另一方面实际具备享有权利和履行义务的意志能力(事实条件)。从根本上说只有生物人同时满足这两项条件,法律归根结底也是为了人类的利益。作为法学辅助概念的法人是生物人的集合,能通过"归入"的技术与生物人的行为建立起联系,也能更好地满足人类的需求。相反,动物因不具备规范性认知能力而无法完全满足事实条件,也不符合规范条件。机器人更接近于动物而不是法人,赋予其法律主体地位既不可能也不可欲,它无法、也不应当承担独立责任。在法律上为机器人行为负责的总是人类自身。
The huge risks that the technique of Artificial Intelligence(AI) has brought leads to asking about whether robots own a status of legal subject. From the perspective of legal theory,"person"in law should have the legal qualification of enjoying rights and performing duties on one hand(normative condition), and own the will capacity to enjoy rights and perform duties in reality(factual condition). Fundamentally, only human satisfies the both conditions at the same time, and in the final analysis, law is for the benefits of human. Legal persons, as an auxiliary concept in legal science, consist of human assembly, which can connect to conducts of human through the skill of "imputation"and satisfy the needs of human better. In contrast, animals which has no capacity of normative recognition can neither satisfy the factual condition adequately, nor fit to the normative condition. Robots is nearer to animals but not to legal persons,thus the endowment of their status of legal subject is neither possible nor desirable, because they can not, while ought not to assume independent liabilities. It is the human itself that should be in charge of the conducts of robots legally.
The huge risks that the technique of Artificial Intelligence(AI) has brought leads to asking about whether robots own a status of legal subject. From the perspective of legal theory,"person"in law should have the legal qualification of enjoying rights and performing duties on one hand(normative condition), and own the will capacity to enjoy rights and perform duties in reality(factual condition). Fundamentally, only human satisfies the both conditions at the same time, and in the final analysis, law is for the benefits of human. Legal persons, as an auxiliary concept in legal science, consist of human assembly, which can connect to conducts of human through the skill of "imputation"and satisfy the needs of human better. In contrast, animals which has no capacity of normative recognition can neither satisfy the factual condition adequately, nor fit to the normative condition. Robots is nearer to animals but not to legal persons,thus the endowment of their status of legal subject is neither possible nor desirable, because they can not, while ought not to assume independent liabilities. It is the human itself that should be in charge of the conducts of robots legally.
引文
[1]Rick Noack,A robot killed a factory worker in Germany-so who should go on trial?,The Washington Post(2 July 2015).
[2]Kiste Bora,Volkswagen German plant accident:robot grabs,crushes man to death.The International Business Times,http://www.Ibtimes.com/volkswagen-german-plant-accident-robot-grabs-crushes-man-death-1993475.
[3]Homa Alemzadeh,Ravishankar Iyer,Zbigniew.Kalbarczyk,Nancy Leveson,Jai Raman,Adverse events in robotic surgery:a retrospective study of 114 years of FDA data,http://arxiv.org/ftp/arxiv/papers/1507/1507.03518.pdf.
[4]参见朱体正:《人工智能时代的法律因应》,《大连理工大学学报(社会科学版)》2018年第2期,第100页。
[5]这份决议建立在欧盟法律事务委员会于2016年5月发布的就机器人民事法律规则向欧盟委员会提出立法建议的报告草案以及同年10月发布的研究成果《欧盟机器人民事法律规则》的基础上。
[6]除了下一脚注中提到的公开发表的两篇论文外,直接切题的讨论似乎仅有沈建铭的硕士论文《论人工智能实体的法律主体资格》(华东师范大学2017年),以及于2018年1月6日在西安召开的全国首届“人工智慧与未来法治”研讨会上提交的四篇论文(龙文懋《人工智能法律主体地位的法哲学思考》、刘洪华《论人工智能的法律地位》、朱程斌《人工智能是不是“人”》、吴梓源《人工智能时代下机器人的身份定位及权利圭臬》)。
[7]参见袁曾:《人工智能有限法律人格审视》,《东方法学》2017年第5期,第52-55页。
[8]参见吴汉东:《人工智能时代的制度安排与法律规制》,《法律科学》2017年第5期,第131页。
[9]参见易继明:《人工智能创作物是作品吗?》,《法律科学》2017年第5期,第146页。
[10]See Colin Davies,An Evolutionary Step in Intellectual Property Rights-Artificial Intelligence and Intellectual Property,Computer Law&Security Review 27(2011),p.601.
[11]See Andrea Bertolini,Robots as products:the case for a realistic analysis of robotic applications and liability rules,Law Innovation and Technology 5(2013),p.215.
[12]Vgl.Hans Kelsen,Reine Rechtslehre(Studienausgabe der 2.Auflage 1960),hrsg.v.Matthias Jestaedt,Tübingen:Verlag?sterreich,2017,S.71.
[13]See Bryant Smith,Legal Personality,Yale Law Journal 37(1928),p.283.
[14]在下文中,如无特别指明,“人”这一表述被用于指“法律上的‘人’”。
[15]Vgl.Hans Kelsen,Reine Rechtslehre(Studienausgabe der 2.Auflage 1960),S.313-314.
[16]a.a.O.,S.314,315.
[17]a.a.O.,S.342,343.
[18]See Arthur Corbin,Legal Analysis and terminology,Yale Law Journal 29(1920),pp.163-165.
[19]See John Wi Salmond,Jurisprudence,London:Stevens and Haynes,1916,p.37.
[20]Vgl.Hans Kelsen,Reine Rechtslehre(Studienausgabe der 2.Auflage 1960),S.23-24.
[21]See Arthur Corbin,Rights and Duties,Yale Law Journal 33(1924),p.511.
[22]See John Gray,The Nature and Sources of the Law,York:Columbia University Press,1909,p.41.
[23]这里的“他人”要作广义理解,因为义务既可以被理解为是针对特定的个体所负的,也可以(在刑法的情形中)被理解为是针对国家所负的。See HT Terry,The correspondence of duties and rights,Yale Law Journal 25(1916),p.172.
[24]See Bryant Smith,Legal Personality,p.290.
[25]Immanuel Kant,Kritik der reinen Vernunft 2,Hrsg.v.Wilhelm Weischedel,Frankfut a.M.:Suhrkamp,1974,S.499.
[26]See John Davis,Corporation:s study of the origin and development of great business combinations and of their relation to the authority of the state,New York:Franklin,1909,p.37.
[27]Vgl.Hans Kelsen,Reine Rechtslehre(Studienausgabe der 2.Auflage 1960),S.318-322.,342
[28]See Susanna Ripken,Corporations are people too:a multi-dimensional approach to the corporate personhood puzzled,Fordham Journal of Corporation and Finance Law 15(2010),p.98.
[29]Vgl.Hans Nawiasky,Allgemeine Rechtslehre,2.Aufl.,Einsiedeln u.a.:Verlagsanstalt Benziger&Co.AG.,1948,S.188.
[30]Vgl.Hans Kelsen,Reine Rechtslehre(Studienausgabe der 2.Auflage 1960),S.338-339.
[31]a.a.O.,S.325-327,333.
[32]See Henry Hansmann,Reinier Kraakman,Law and the rise of the firm,Harvard Law Review 119(2006),pp.1338-1339.
[33]See Henry Hansmann,Reinier Kraakman,The essential role of organizational law,Yale Law Journal 110(2001),pp.389-341.
[34]法律可能会规定的某些条件下,当公司财产不足以清偿债务时,要由出资人以其个人财产来承担余下的债务。法律也可能会规定某些情况下,当团体成员或机关从事犯罪活动时,不仅要由这个个人,而且要由团体的所有成员或主管机关来承担人身责任(监禁甚至死刑)。但这些都是特例,并不构成对团体责任与个人责任相区分的挑战。
[35]See Andrea Bertolini,Robots as products:the case for a realistic analysis of robotic applications and liability rules,p.215.
[36]关于动物的立法保护之争,参见常纪文:《“动物权利”的法律保护》,《法学研究》2009年第4期,第198-199页。
[37]See Matter of Nonhuman Rights Project,Inc v.Stanley[2015],NY Slip Op 31419(U).
[38]Ibid.
[39]当然,不排除动物保护组织会为动物设置“自己的”财产,但从根本上这其实还是动物保护组织这一法人或者说其成员的财产。
[40]比如宠物的主人可能会拿出特定数额的钱,划定为宠物“独立财产”,然而对被侵权人说只有在这笔钱的范围内才承担对方的损失,因为他家的宠物要承担独立的责任。这其实相当于是在躲避部分赔偿责任。
[41]参见严存生:《“动物权利”概念的法哲学思考》,《东方法学》2014年第1期,第6页。
[42]混淆了这两者,并以此为作为论据证明也可以赋予机器人权利主体地位的观点,参见张玉洁:《论人工智能时代的机器人权利及其风险规制》,《东方法学》2017年第6期,第58页。
[43]参见李晟:《略论人工智能语境下的法律转型》,《法学评论》2018年第1期,第98页。
[44]See Richard Susskind,Expert Systems in Law:A Jurisprudential Inquiry,Oxford:Clarendon Press,1987,p.44.
[45]参见郑戈:《人工智能与法律的未来》,《探索与争鸣》2017年第10期,第79页。
[46]如未特别说明,当我们在下文中使用“机器人”时,指的就是这种强人工智能体。
[47]See Rogar Schank,What is AI,anyway?AI Magazine 8(1987),pp.59-65.
[48]Peter Asaro,Robots and responsibilities from a legal perspective(2007),http://www.peterasaro.org/writing/ASANO%20Legal%20Perspective.pdf.
[49]Lawrence Solum,Legal personhood for artificial intelligence,North Carolina Law Review 70(1992),p.1232.
[50]See Gabriel Halley,The criminal liability of artificial intelligence entities-from science fiction to legal social control,Akron Intellectual Property Journal 4(2010),pp.172-175.
[51]See S.M.Solaiman,Legal personality of robots,corporations,idols and chimpanzees:a quest for legitimacy,Artificial Intelligence and Law 25(2017),p.173.
[52]例如,进行电脑量刑研究的学者曾将“犯罪记录”这一项要素细分为六个要素,人工智能可以在很短时间内就将由此产生的七百多种得到精确界定的选择可能列举出来(See Antony Doob and Norman Park,Computerized Sentencing Information for Judges:An Aid to the Sentencing Process,Criminal Law Quaterly 30(1987),p.56.)。
[53]倪震:《量刑改革中“机械正义”之纠正--兼论人工智能运用的边界及前景》,《江西社会科学》2018年第2期,第192页。
[54]季卫东:《人工智能时代的司法权之变》,《东方法学》2018年第1期,第125页、第133页。
[55]Kurt G觟del,Some basic theorems on the foundations of mathematics and their implications,in his Collected Works(volume 3),Oxford:Oxford University Press,1995,p.323.
[56]索罗姆认为,机器人缺乏关键性的人格特征即意向性、欲望与利益,因而缺乏承担刑事责任的前提条件(Lawrence Solum,Legal personhood for artificial intelligence,p.1234.)。弗拉德克甚至认为,现行法没有必要来处理由机器人故障导致的损害事故,如果没有一位负责人指令它作出不法行为的话(David Vladeck,Machines without principals:liability rules and artificial intelligence,Washington Law Review 89(2014),p.120.)。
[57]参见舒国滢主编:《法理学导论》,北京大学出版社2006年版,第163页。
[58]对此,也有不同观点,刘宪权教授将将人工智能产品划分为弱人工智能产品与强人工智能产品。其认为强人工智能产品具有辨认能力和控制能力,能在设计和编制的程序范围外实施危害社会的行为。对此,笔者不敢苟同。刘宪权:《人工智能时代的“内忧”“外患”与刑事责任》,《东方法学》2018年第1期。
[59]对此,有研究者认为,对于研发试验阶段无人船舶海上事故的责任承担以及船舶保险等民事法律制度应加强相关所有人、使用人等民事责任的研究。王欣、初北平:《研发试验阶段的无人船舶所面临的法律障碍及应对》,《中国海商法研究》2017年第3期,第59页。
[60]See Antony Bertolini,Robots as products:the case for a realistic analysis of robotic applications and liability rules,p.246.
[61]See Ronald Leenes,Federica Lucivero,Laws on robots,laws by robots,laws in robots:regulating robot behaviour by design,Law Innovation and Technology 6(2014),p.212.
[62]Joanna Bryson,Robots should be slaves,in:Yorick Wilks(ed.),Close engagements with artificial companions,Amsterdam:John Benjamins Publishing,2010,p.74.
[2]Kiste Bora,Volkswagen German plant accident:robot grabs,crushes man to death.The International Business Times,http://www.Ibtimes.com/volkswagen-german-plant-accident-robot-grabs-crushes-man-death-1993475.
[3]Homa Alemzadeh,Ravishankar Iyer,Zbigniew.Kalbarczyk,Nancy Leveson,Jai Raman,Adverse events in robotic surgery:a retrospective study of 114 years of FDA data,http://arxiv.org/ftp/arxiv/papers/1507/1507.03518.pdf.
[4]参见朱体正:《人工智能时代的法律因应》,《大连理工大学学报(社会科学版)》2018年第2期,第100页。
[5]这份决议建立在欧盟法律事务委员会于2016年5月发布的就机器人民事法律规则向欧盟委员会提出立法建议的报告草案以及同年10月发布的研究成果《欧盟机器人民事法律规则》的基础上。
[6]除了下一脚注中提到的公开发表的两篇论文外,直接切题的讨论似乎仅有沈建铭的硕士论文《论人工智能实体的法律主体资格》(华东师范大学2017年),以及于2018年1月6日在西安召开的全国首届“人工智慧与未来法治”研讨会上提交的四篇论文(龙文懋《人工智能法律主体地位的法哲学思考》、刘洪华《论人工智能的法律地位》、朱程斌《人工智能是不是“人”》、吴梓源《人工智能时代下机器人的身份定位及权利圭臬》)。
[7]参见袁曾:《人工智能有限法律人格审视》,《东方法学》2017年第5期,第52-55页。
[8]参见吴汉东:《人工智能时代的制度安排与法律规制》,《法律科学》2017年第5期,第131页。
[9]参见易继明:《人工智能创作物是作品吗?》,《法律科学》2017年第5期,第146页。
[10]See Colin Davies,An Evolutionary Step in Intellectual Property Rights-Artificial Intelligence and Intellectual Property,Computer Law&Security Review 27(2011),p.601.
[11]See Andrea Bertolini,Robots as products:the case for a realistic analysis of robotic applications and liability rules,Law Innovation and Technology 5(2013),p.215.
[12]Vgl.Hans Kelsen,Reine Rechtslehre(Studienausgabe der 2.Auflage 1960),hrsg.v.Matthias Jestaedt,Tübingen:Verlag?sterreich,2017,S.71.
[13]See Bryant Smith,Legal Personality,Yale Law Journal 37(1928),p.283.
[14]在下文中,如无特别指明,“人”这一表述被用于指“法律上的‘人’”。
[15]Vgl.Hans Kelsen,Reine Rechtslehre(Studienausgabe der 2.Auflage 1960),S.313-314.
[16]a.a.O.,S.314,315.
[17]a.a.O.,S.342,343.
[18]See Arthur Corbin,Legal Analysis and terminology,Yale Law Journal 29(1920),pp.163-165.
[19]See John Wi Salmond,Jurisprudence,London:Stevens and Haynes,1916,p.37.
[20]Vgl.Hans Kelsen,Reine Rechtslehre(Studienausgabe der 2.Auflage 1960),S.23-24.
[21]See Arthur Corbin,Rights and Duties,Yale Law Journal 33(1924),p.511.
[22]See John Gray,The Nature and Sources of the Law,York:Columbia University Press,1909,p.41.
[23]这里的“他人”要作广义理解,因为义务既可以被理解为是针对特定的个体所负的,也可以(在刑法的情形中)被理解为是针对国家所负的。See HT Terry,The correspondence of duties and rights,Yale Law Journal 25(1916),p.172.
[24]See Bryant Smith,Legal Personality,p.290.
[25]Immanuel Kant,Kritik der reinen Vernunft 2,Hrsg.v.Wilhelm Weischedel,Frankfut a.M.:Suhrkamp,1974,S.499.
[26]See John Davis,Corporation:s study of the origin and development of great business combinations and of their relation to the authority of the state,New York:Franklin,1909,p.37.
[27]Vgl.Hans Kelsen,Reine Rechtslehre(Studienausgabe der 2.Auflage 1960),S.318-322.,342
[28]See Susanna Ripken,Corporations are people too:a multi-dimensional approach to the corporate personhood puzzled,Fordham Journal of Corporation and Finance Law 15(2010),p.98.
[29]Vgl.Hans Nawiasky,Allgemeine Rechtslehre,2.Aufl.,Einsiedeln u.a.:Verlagsanstalt Benziger&Co.AG.,1948,S.188.
[30]Vgl.Hans Kelsen,Reine Rechtslehre(Studienausgabe der 2.Auflage 1960),S.338-339.
[31]a.a.O.,S.325-327,333.
[32]See Henry Hansmann,Reinier Kraakman,Law and the rise of the firm,Harvard Law Review 119(2006),pp.1338-1339.
[33]See Henry Hansmann,Reinier Kraakman,The essential role of organizational law,Yale Law Journal 110(2001),pp.389-341.
[34]法律可能会规定的某些条件下,当公司财产不足以清偿债务时,要由出资人以其个人财产来承担余下的债务。法律也可能会规定某些情况下,当团体成员或机关从事犯罪活动时,不仅要由这个个人,而且要由团体的所有成员或主管机关来承担人身责任(监禁甚至死刑)。但这些都是特例,并不构成对团体责任与个人责任相区分的挑战。
[35]See Andrea Bertolini,Robots as products:the case for a realistic analysis of robotic applications and liability rules,p.215.
[36]关于动物的立法保护之争,参见常纪文:《“动物权利”的法律保护》,《法学研究》2009年第4期,第198-199页。
[37]See Matter of Nonhuman Rights Project,Inc v.Stanley[2015],NY Slip Op 31419(U).
[38]Ibid.
[39]当然,不排除动物保护组织会为动物设置“自己的”财产,但从根本上这其实还是动物保护组织这一法人或者说其成员的财产。
[40]比如宠物的主人可能会拿出特定数额的钱,划定为宠物“独立财产”,然而对被侵权人说只有在这笔钱的范围内才承担对方的损失,因为他家的宠物要承担独立的责任。这其实相当于是在躲避部分赔偿责任。
[41]参见严存生:《“动物权利”概念的法哲学思考》,《东方法学》2014年第1期,第6页。
[42]混淆了这两者,并以此为作为论据证明也可以赋予机器人权利主体地位的观点,参见张玉洁:《论人工智能时代的机器人权利及其风险规制》,《东方法学》2017年第6期,第58页。
[43]参见李晟:《略论人工智能语境下的法律转型》,《法学评论》2018年第1期,第98页。
[44]See Richard Susskind,Expert Systems in Law:A Jurisprudential Inquiry,Oxford:Clarendon Press,1987,p.44.
[45]参见郑戈:《人工智能与法律的未来》,《探索与争鸣》2017年第10期,第79页。
[46]如未特别说明,当我们在下文中使用“机器人”时,指的就是这种强人工智能体。
[47]See Rogar Schank,What is AI,anyway?AI Magazine 8(1987),pp.59-65.
[48]Peter Asaro,Robots and responsibilities from a legal perspective(2007),http://www.peterasaro.org/writing/ASANO%20Legal%20Perspective.pdf.
[49]Lawrence Solum,Legal personhood for artificial intelligence,North Carolina Law Review 70(1992),p.1232.
[50]See Gabriel Halley,The criminal liability of artificial intelligence entities-from science fiction to legal social control,Akron Intellectual Property Journal 4(2010),pp.172-175.
[51]See S.M.Solaiman,Legal personality of robots,corporations,idols and chimpanzees:a quest for legitimacy,Artificial Intelligence and Law 25(2017),p.173.
[52]例如,进行电脑量刑研究的学者曾将“犯罪记录”这一项要素细分为六个要素,人工智能可以在很短时间内就将由此产生的七百多种得到精确界定的选择可能列举出来(See Antony Doob and Norman Park,Computerized Sentencing Information for Judges:An Aid to the Sentencing Process,Criminal Law Quaterly 30(1987),p.56.)。
[53]倪震:《量刑改革中“机械正义”之纠正--兼论人工智能运用的边界及前景》,《江西社会科学》2018年第2期,第192页。
[54]季卫东:《人工智能时代的司法权之变》,《东方法学》2018年第1期,第125页、第133页。
[55]Kurt G觟del,Some basic theorems on the foundations of mathematics and their implications,in his Collected Works(volume 3),Oxford:Oxford University Press,1995,p.323.
[56]索罗姆认为,机器人缺乏关键性的人格特征即意向性、欲望与利益,因而缺乏承担刑事责任的前提条件(Lawrence Solum,Legal personhood for artificial intelligence,p.1234.)。弗拉德克甚至认为,现行法没有必要来处理由机器人故障导致的损害事故,如果没有一位负责人指令它作出不法行为的话(David Vladeck,Machines without principals:liability rules and artificial intelligence,Washington Law Review 89(2014),p.120.)。
[57]参见舒国滢主编:《法理学导论》,北京大学出版社2006年版,第163页。
[58]对此,也有不同观点,刘宪权教授将将人工智能产品划分为弱人工智能产品与强人工智能产品。其认为强人工智能产品具有辨认能力和控制能力,能在设计和编制的程序范围外实施危害社会的行为。对此,笔者不敢苟同。刘宪权:《人工智能时代的“内忧”“外患”与刑事责任》,《东方法学》2018年第1期。
[59]对此,有研究者认为,对于研发试验阶段无人船舶海上事故的责任承担以及船舶保险等民事法律制度应加强相关所有人、使用人等民事责任的研究。王欣、初北平:《研发试验阶段的无人船舶所面临的法律障碍及应对》,《中国海商法研究》2017年第3期,第59页。
[60]See Antony Bertolini,Robots as products:the case for a realistic analysis of robotic applications and liability rules,p.246.
[61]See Ronald Leenes,Federica Lucivero,Laws on robots,laws by robots,laws in robots:regulating robot behaviour by design,Law Innovation and Technology 6(2014),p.212.
[62]Joanna Bryson,Robots should be slaves,in:Yorick Wilks(ed.),Close engagements with artificial companions,Amsterdam:John Benjamins Publishing,2010,p.74.