自动系统、人工智能和机器人——一个刑法角度的定位
|
摘要
数字化革命尤其是人工智能的广泛应用不仅引发了人类工作生活的巨大变革,也对法律职业以及刑法学工作产生了跨时代的影响。鲍纳塔尔案、阿沙芬堡案、自动驾驶的悖论问题和"Tay"案已经预示着人工智能并不是百分之百的安全,人类在未来遭受其损害的概率会显著提升。即使如此,法律的演进仍应谨慎、适度,尝试以现有的法律教义学方法解决人工智能所带来的新的法律问题。
The digital revolution, especially the wide application of artificial intelligence(AI) technology, has not only brought about great changes in human work and life, but has an unprecedent impact on the legal profession and the activities concerning criminal law. Incidents taking place in Baunatal and Aschaffenburg,Germany,and the paradox of autonomous driving and the "Tay" case have all foreshadowed that the AI technology is not 100% safe. The probability that human beings will suffer from the damage caused by AI will increase significantly in the future. Even so, we have to follow a prudent and appropriate approach to the development of law and try to solve the new legal problems brought about by the application of AI technology with the currently available methods offered by legal dogmatics.
The digital revolution, especially the wide application of artificial intelligence(AI) technology, has not only brought about great changes in human work and life, but has an unprecedent impact on the legal profession and the activities concerning criminal law. Incidents taking place in Baunatal and Aschaffenburg,Germany,and the paradox of autonomous driving and the "Tay" case have all foreshadowed that the AI technology is not 100% safe. The probability that human beings will suffer from the damage caused by AI will increase significantly in the future. Even so, we have to follow a prudent and appropriate approach to the development of law and try to solve the new legal problems brought about by the application of AI technology with the currently available methods offered by legal dogmatics.
引文
(1)Di Fabio, Grundrechtsgeltung in digitalen Systemen. Sellbstbestimmung und Wettbewerb im Netz, 2016, Einleitung;也可参见Schwab, The Fourth Industrial Revolution, 2016.
(2)Hilgendorf,Humanismus und Recht—Humanistisches Recht?Eine erste Orientierung. In:Groschopp(Hrsg.),Humanismus und Humanisierung, 2014,S. 36ff.
(3)值得注意的是,法学在20世纪60年代初期就已从事数字化法学后果的研究。对此详见Grawe,Die Entstehung der Rechtsinformatik. Wissenschaftsgeschichtliche und-theoretische Analyse einer Querschnittsdisziplin,2011(附有大量的证明).
(4)对此的方法早就存在了,例如治疗患有“闭锁综合征”的病人,这类病人虽然意识清醒,但是(大多在听觉功能完整的情况下)丧失了通过身体运动而和外界沟通的能力,有时他们连眼球也无法移动。现在“闭锁综合征”病人经常通过“脑机接口”实现与外界的沟通。对此参见Brukamp,Gehirn-Computer-Schnittstellen:neurowissenschaftliche Grundlagen und normative Themen,in:Hilgendorf(Hrsg.),Robotik im Kontext von Recht und Moral,2014,S. 287 ff.
(5)这一技术在经济上的一项十分有趣的应用就是生产者制造“数字孪生体”,例如销售的汽车的孪生体。由此可以在问题因素生效之前对其进行识别并采取应对措施。
(6)概况参见Dorner u. a.(Hrsg.), Virtual and Augmented Reality(VR/AR):Grundlagen und Methoden der Virtuellen und Augmentierten Realitat, 2014.
(7)Kaplan,Kunstliche Intelligenz,2017,S. 15;详细内容参见Boden,AI. Its Nature and Future,2016; Lenzen,Kunstliche Intelligenz, 2018.
(8)基础性的概况参见Rost,Handbuch Intelligenz,2013;另参见Tegmark,Leben 3. 0. Mensch sein irm Zeitalter Kunstlicher Intelligenz,2017, S. 79 ff.此外,定义“智能”概念面临困难的原因还在于,这一领域的实证研究特别受到大众媒体和政治的调控。
(9)ILenzen,Kunstliche Intelligenz(Fn. 7), S. 30.
(10)对《德国刑法典》第263条a意义上的数据处理进行“智能替代”的理念,参见Hilgendorf, JuS 1999, S. 542(543).
(11)Jordan,Roboter,2017,S. 57 ff.
(12)Jordan,Roboter(Fn. 11),S. 61 ff.;详见Barthelmeβ/Furbach,IRobot—uMan. Kunstliche Intelligenz und Kultur:Eine jahrtausendealte Beziehungskiste,2012;大量的文学短文收录于Volker(Hrsg.),Kunstliche Menschen. Uber Golems,Homunculi,Androiden und lebende Statuen, 1971.
(13)阿西莫夫最早的关于“机器人历史”的著作出版于20世纪40年代初期,汇编于Asimov, The Complete Robot, 1983.
(14)例如,(“捕获密码”式的)“网络钓鱼”和盗窃身份。
(15)Eisele. Cormputer-und Medienstrafrecht, 2013; Hilgendorf/Valerius, Computer-und Internetstrafrecht, 2. Aufl. 2012,3.Aufl. in Vorb. fur 2018.
(16)Hartung/Bues/Halbleib(Hrsg.), Legal Tech. Die Digitalisierung des Rechtsmarktes, 2018.
(17)Chopra/White,A Legal Theory for Autonomous Artificial Agents, 2011; Gless/Seelmann(Hrsg.), Intelligente Agenten und das Recht,2016; Gless/Weigend, ZStW Bd. 126(2014),S. 561 ff.; Hengstenlberg/Kirn,Rechtliche Risiken autonomer und vernetzter Systeme,Eine Herausforderung,2016,S. 59 ff.; Hilgendorf, Konnen Roboter schuldhaft handeln? Zur Ubertragbarkeit unseres normativen Grundvokabulars auf Maschinen. In:Beck(Hrsg.), Jenseits von Mensch und Maschine, 2012, S. 119 ff.
(18)要求形成针对自动化汽车的全面的新型法律框架就是一个例子。相反,立法者支持了“小型的解决方式”,参见Achtes Gesetz zur Anderung des Straβenverkehrsgesetzes vom 16. Juni 201 7,BGB, I,S. 1648.
(19)https://www. hna. de/kassel kreis-kassel/baunatal-ort312516/toedlicher-roboter-unfall-bei-vw-kassel-in-lbaunatal-vor-gericht-8413531.html,最后访问时间:201 8年12月26日。
(20)https://edition. cnn. com/2015/07/02/europe/germany-volkswagen-robot-kills-worker/index. html,最后访问时间:2018年12月26日。
(21)关于合规可能面临的可罚性的争论,参见Fischer,StGB,§13 Rn.38 f.
(22)处理这一主题的经典之作是恩斯特·特奥多尔·威廉·霍夫曼(E. T. A. Hoffmann)的短篇小说《睡魔》(1816年),刊登在Volker, Kunstliche Menschen(Fn. 12),S. 181-221.
(23)诸如《霹雳游侠》(1982年及后续几年)、《我,机器人》(2004年)或者《机器人总动员》(2004年)等影视剧就涉及了这些明显带有生物学色彩和普世性的趋势。另参见本文第一部分。
(24)Hilgendorf,DRiZ 2018,S. 66 ff.
(25)关于哲学和神学中的“自治”观念众说纷纭,很少得以阐明。在康德的传统著作中,将“自治”观念和“自我立法”的能力相结合的观点影响甚大。对此详见Lenzen,Kunstliche Intelligenz(Fn. 7),S. 124 ff.
(26)由于《德国道路交通法》第7条中的严格责任可以轻易地适用于客车自动化系统的新问题情况当中,因此应当审验,是否不能将这种模式扩展适用到现代机器人制造技术的其他形式中。
(27)Fischer,StGB,§15 Rn. 12a.
(28)概况参见Fischer,StGB,§22 Rn. 10 f.
(29)BGHSt 37, 1 80; Fischer, Vor§32, Rn. 13; Kindhauser, LPK-StGB,§15 Rn. 58;ders.,Zum sog.“unerlaubten”,Risiko, in:Bloy(u. a.),Gerechte Strafe und legitimes Strafrecht. Festschrift fur Manfred Maiwald zum 75. Geburtstag,2010,S. 397 ff.;关于教义学上的定位详见NK-Paeffgen,Vor§32 Rn. 23 ff.
(30)例如Wessels/Beulke/Satzger, AT,Rn. 258.
(31)Hilgendorf,Wozu brauchen wir die"objektive Zurechnung"?Skeptische Uberlegungen am Beispiel der strafrechtlichen Produkthaftung. In:Festschrift fur Ulrich Weber zum 70. Geburtstag, hrsg. von Heinrich u. a.,2004,S. 33 ff.
(32)关于技术条款,参见Knopp,in:Datenschutz und Datensicherheit 2017,S. 663 ff.
(33)Foerste,in:Foerste/Graf von Westphalen,Produkthaftungshandbuch,3. Aufl. 2012,§24 Rn. 372 ff.
(34)费迪南德·冯·席拉赫(Ferdinand von Schirach)的话剧《恐怖》(2016年)所引起的轰动也展现了这一点。剧情是,一个士兵击落了被恐怖分子劫持的载有大量无辜乘客的客机,从而拯救了该客机将要坠落在的足球场内的更多数量的人。在该话剧中,观众可以自行决定该士兵无罪或是有罪,绝大多数观众支持无罪。法学家对该话剧的批判是正确的,因为席拉赫没有区分违法性和责任。
(35)媒体对于这些问题百谈不厌,例如http://www. zeit. de/digital/internet/2016-08/verkehr-wen-sollen-fahrerlose-autos-ueberfahren,最后访问时间:2018年12月26日。
(36)https://www. bmvi. de/SharedDocs/DE/Publikationen/G/bericht-der-ethik-kommission. html.(S.19),最后访问时间:2018年12月26日。
(37)OGHSt 1,321,334; Welzel,ZStW 63,51; Roxin ATⅠ,16/33 ff.
(38)案例情况参见Hilgendorf,Autonomes Fahren im Dilemma. Uberlegungen zur moralischen und rechtlichen Behandlung von selbsttatigen Kollisioasvermeidesystemen, in:ders.(Hrsg.), Autonome Systeme und neue Mobilitat, 2017, S. 143(156).
(39)人类生命的量化就是这样。德国在2011年5月进行的人口普查就是对人的生命进行特别全面的量化的例子。
(40)Baumann/Weber/Mitsch/Eisele,AT,§15 Rn. 102; MuKo-Erb,§34 Rn. 1 16 f.; S-S-Perron,§34 Rn. 117.
(41)参见前引(2),Hilgendorf文。
(42)Fischer,StGB,§34 Rn. 18; MuKo-Erb,§34 Rn. 116; Hilgendorf,Autonomes Fahren im Dilemma(Fn. 38),S. 151 ff.
(43)参见Hilgendorf, Autonomes Fahren im Dilemma(Fn. 38),S. 156 f.
(44)MuKo-Erb,§34 Rn. 129 ff.; Hilgendorf, Autonomes Fahren im Dilemma(Fn. 38),S. 160 f.
(45)除了前引38中的文献,还可参见Beck,Joerden,Schuster和Hilgendorf等人的论文,尤其可参见Weigend,ZIS 2017,S. 599 ff.;Hornle/Wohlers,GA 2018,S. 12 ff.另参见即将出版的Jochen Feldle的博士论文Notstandsalgorithmen. Dilemmatische Situationen im automatisierten StraBenverkehr, 2018.
(46)值得注意的是,在两难困境当中这个问题大多没有被提及,尽管它对于引入冲突避免系统意义非凡。
(47)换言之,所有这些案例中的结果无价值都得以实现。
(48)Hilgendorf,Autonomes Fahren im Dilemma(Fn. 38),S. 164 ff.
(49)质疑性观点,参见Hornle/Wohler,GA 2018, S. 12(21).
(50)详细案情参见英文版维基百科“Tay(bot)”词条。
(51)支持机器的可罚性的观点,参见Matthias,Automaten als Trager von Rechten:P Pladoyer fur eine Gesetzesanderung,2008,2. korrigierte Aufl. 2010;关于“电子人”的争论,参见Beck,Uber Sinn und Unsinn von Statusfragen—zu Vor-und Nachteilen der Einfuhrung einer elektronischen Person, in:Hilgendorf(Hrsg.), Robotik und Gesetzgebung, 2013, S. 239 ff.
(52)不过,根据《德国著作权法》第2条第1款第1项的规定,电脑程序属于受著作权法保护的作品。
(53)Baumann/Weber/Mitsch/Eisele, AT§2 Rn. 7 f.
(54)自动化系统“拟人化”的第二个参考点可能在于,未来越来越多的机器人将与人类建立直接的联系,例如作为老年护工或孩子的玩伴。这要求机器的形态越来越接近人类,或者至少引起人类的积极情感(例如机器人“瓦力”的角色)。如果这样的机器受损甚至是毁损,那么对很多人尤其是它的人类伙伴来说,难以接受将该状况仅仅视为“损坏财物”。就此而言,甚至“机器的人权”这种口号也能拥有支持者。
(55)Baumann/Weber/Mitsch/Eisele,AT§2 Rn. 64 ff.
(56)2017年,德国联邦教育及研究部(BMBF)成立了“平台学习系统”。该平台的其中一个小组委员会研究自主学习系统的法律和伦理挑战,参见www. plattform-lernende-systeme. de/ag-3. html.
(57)Hilgendorf, Recht und autonome Maschinen-ein ProblemaufriB. In:Hilgendorf/Hotitzsch(Hrsg.), Beitrage der 1. Wurzburger Tagung zum Technikrecht,2015,S. 11 ff.
(58)Consider Phlebas, 1987; The Player of Games, 1988; Use of Weapons, 1990; The State of the Art, 1991; Excession, 1996;Look to Winward, 2000; Matter, 2008; Surface Detail, 2010; The Hydrogen Sonata, 2012.
(59)应当将《文明》理解为积极的乌托邦还是反乌托邦,对此并无定论。本文认为更多的是前者。
(60)有时捍卫现有刑法教义学原则和规范的决心也可能与缺乏幻想有关。
(61)这个问题在英美伦理学中已经得到了相当一段时间的集中讨论,例如,Anderson/Anderson(Hrsg,),Machine Ethics 2011;Wallach(Hrsg,),Moral Machines. Teaching Robots Right from Wrong,2010另参见文集Lin/Jenkins/Abney(Hrsg.),Robot Ethics 2. 0. From Autonomous Cars to Artificial Intelligence,2017.德语区的文献,参见Heesen和Neuhauser的文章,载于Hilgendorf(Hrsg.), Robotik im Kontext von Recht und Moral. 2014.
(62)艾萨克·阿西莫夫在其短篇小说《环舞》(1942年)中提出的著名的“机器人三定律”显然是这种“机器人道德”的早期形式:“第一,机器人不得伤害人类,或坐视人类受到伤害;第二,除非违背第一法则,否则机器人必须服从人类命令;第三,除非违背第一或第二法则,否则机器人必须保护自己。”在很多科幻小说和电影(例如2004年的《我,机器人》)中,这些定律都是主题,而且面临着问题。从法学视角来看,阿西莫夫定律难以令人信服,它没有明确应当如何理解“伤害”,对于两难困境也缺乏决定规则。
(63)这一表述是根据一位奥地利裔美国机器人技术幻想家的名著,参见Hans Moravec:Mind Children. The Future of Robot and Human Intelligence,1988.
(2)Hilgendorf,Humanismus und Recht—Humanistisches Recht?Eine erste Orientierung. In:Groschopp(Hrsg.),Humanismus und Humanisierung, 2014,S. 36ff.
(3)值得注意的是,法学在20世纪60年代初期就已从事数字化法学后果的研究。对此详见Grawe,Die Entstehung der Rechtsinformatik. Wissenschaftsgeschichtliche und-theoretische Analyse einer Querschnittsdisziplin,2011(附有大量的证明).
(4)对此的方法早就存在了,例如治疗患有“闭锁综合征”的病人,这类病人虽然意识清醒,但是(大多在听觉功能完整的情况下)丧失了通过身体运动而和外界沟通的能力,有时他们连眼球也无法移动。现在“闭锁综合征”病人经常通过“脑机接口”实现与外界的沟通。对此参见Brukamp,Gehirn-Computer-Schnittstellen:neurowissenschaftliche Grundlagen und normative Themen,in:Hilgendorf(Hrsg.),Robotik im Kontext von Recht und Moral,2014,S. 287 ff.
(5)这一技术在经济上的一项十分有趣的应用就是生产者制造“数字孪生体”,例如销售的汽车的孪生体。由此可以在问题因素生效之前对其进行识别并采取应对措施。
(6)概况参见Dorner u. a.(Hrsg.), Virtual and Augmented Reality(VR/AR):Grundlagen und Methoden der Virtuellen und Augmentierten Realitat, 2014.
(7)Kaplan,Kunstliche Intelligenz,2017,S. 15;详细内容参见Boden,AI. Its Nature and Future,2016; Lenzen,Kunstliche Intelligenz, 2018.
(8)基础性的概况参见Rost,Handbuch Intelligenz,2013;另参见Tegmark,Leben 3. 0. Mensch sein irm Zeitalter Kunstlicher Intelligenz,2017, S. 79 ff.此外,定义“智能”概念面临困难的原因还在于,这一领域的实证研究特别受到大众媒体和政治的调控。
(9)ILenzen,Kunstliche Intelligenz(Fn. 7), S. 30.
(10)对《德国刑法典》第263条a意义上的数据处理进行“智能替代”的理念,参见Hilgendorf, JuS 1999, S. 542(543).
(11)Jordan,Roboter,2017,S. 57 ff.
(12)Jordan,Roboter(Fn. 11),S. 61 ff.;详见Barthelmeβ/Furbach,IRobot—uMan. Kunstliche Intelligenz und Kultur:Eine jahrtausendealte Beziehungskiste,2012;大量的文学短文收录于Volker(Hrsg.),Kunstliche Menschen. Uber Golems,Homunculi,Androiden und lebende Statuen, 1971.
(13)阿西莫夫最早的关于“机器人历史”的著作出版于20世纪40年代初期,汇编于Asimov, The Complete Robot, 1983.
(14)例如,(“捕获密码”式的)“网络钓鱼”和盗窃身份。
(15)Eisele. Cormputer-und Medienstrafrecht, 2013; Hilgendorf/Valerius, Computer-und Internetstrafrecht, 2. Aufl. 2012,3.Aufl. in Vorb. fur 2018.
(16)Hartung/Bues/Halbleib(Hrsg.), Legal Tech. Die Digitalisierung des Rechtsmarktes, 2018.
(17)Chopra/White,A Legal Theory for Autonomous Artificial Agents, 2011; Gless/Seelmann(Hrsg.), Intelligente Agenten und das Recht,2016; Gless/Weigend, ZStW Bd. 126(2014),S. 561 ff.; Hengstenlberg/Kirn,Rechtliche Risiken autonomer und vernetzter Systeme,Eine Herausforderung,2016,S. 59 ff.; Hilgendorf, Konnen Roboter schuldhaft handeln? Zur Ubertragbarkeit unseres normativen Grundvokabulars auf Maschinen. In:Beck(Hrsg.), Jenseits von Mensch und Maschine, 2012, S. 119 ff.
(18)要求形成针对自动化汽车的全面的新型法律框架就是一个例子。相反,立法者支持了“小型的解决方式”,参见Achtes Gesetz zur Anderung des Straβenverkehrsgesetzes vom 16. Juni 201 7,BGB, I,S. 1648.
(19)https://www. hna. de/kassel kreis-kassel/baunatal-ort312516/toedlicher-roboter-unfall-bei-vw-kassel-in-lbaunatal-vor-gericht-8413531.html,最后访问时间:201 8年12月26日。
(20)https://edition. cnn. com/2015/07/02/europe/germany-volkswagen-robot-kills-worker/index. html,最后访问时间:2018年12月26日。
(21)关于合规可能面临的可罚性的争论,参见Fischer,StGB,§13 Rn.38 f.
(22)处理这一主题的经典之作是恩斯特·特奥多尔·威廉·霍夫曼(E. T. A. Hoffmann)的短篇小说《睡魔》(1816年),刊登在Volker, Kunstliche Menschen(Fn. 12),S. 181-221.
(23)诸如《霹雳游侠》(1982年及后续几年)、《我,机器人》(2004年)或者《机器人总动员》(2004年)等影视剧就涉及了这些明显带有生物学色彩和普世性的趋势。另参见本文第一部分。
(24)Hilgendorf,DRiZ 2018,S. 66 ff.
(25)关于哲学和神学中的“自治”观念众说纷纭,很少得以阐明。在康德的传统著作中,将“自治”观念和“自我立法”的能力相结合的观点影响甚大。对此详见Lenzen,Kunstliche Intelligenz(Fn. 7),S. 124 ff.
(26)由于《德国道路交通法》第7条中的严格责任可以轻易地适用于客车自动化系统的新问题情况当中,因此应当审验,是否不能将这种模式扩展适用到现代机器人制造技术的其他形式中。
(27)Fischer,StGB,§15 Rn. 12a.
(28)概况参见Fischer,StGB,§22 Rn. 10 f.
(29)BGHSt 37, 1 80; Fischer, Vor§32, Rn. 13; Kindhauser, LPK-StGB,§15 Rn. 58;ders.,Zum sog.“unerlaubten”,Risiko, in:Bloy(u. a.),Gerechte Strafe und legitimes Strafrecht. Festschrift fur Manfred Maiwald zum 75. Geburtstag,2010,S. 397 ff.;关于教义学上的定位详见NK-Paeffgen,Vor§32 Rn. 23 ff.
(30)例如Wessels/Beulke/Satzger, AT,Rn. 258.
(31)Hilgendorf,Wozu brauchen wir die"objektive Zurechnung"?Skeptische Uberlegungen am Beispiel der strafrechtlichen Produkthaftung. In:Festschrift fur Ulrich Weber zum 70. Geburtstag, hrsg. von Heinrich u. a.,2004,S. 33 ff.
(32)关于技术条款,参见Knopp,in:Datenschutz und Datensicherheit 2017,S. 663 ff.
(33)Foerste,in:Foerste/Graf von Westphalen,Produkthaftungshandbuch,3. Aufl. 2012,§24 Rn. 372 ff.
(34)费迪南德·冯·席拉赫(Ferdinand von Schirach)的话剧《恐怖》(2016年)所引起的轰动也展现了这一点。剧情是,一个士兵击落了被恐怖分子劫持的载有大量无辜乘客的客机,从而拯救了该客机将要坠落在的足球场内的更多数量的人。在该话剧中,观众可以自行决定该士兵无罪或是有罪,绝大多数观众支持无罪。法学家对该话剧的批判是正确的,因为席拉赫没有区分违法性和责任。
(35)媒体对于这些问题百谈不厌,例如http://www. zeit. de/digital/internet/2016-08/verkehr-wen-sollen-fahrerlose-autos-ueberfahren,最后访问时间:2018年12月26日。
(36)https://www. bmvi. de/SharedDocs/DE/Publikationen/G/bericht-der-ethik-kommission. html.(S.19),最后访问时间:2018年12月26日。
(37)OGHSt 1,321,334; Welzel,ZStW 63,51; Roxin ATⅠ,16/33 ff.
(38)案例情况参见Hilgendorf,Autonomes Fahren im Dilemma. Uberlegungen zur moralischen und rechtlichen Behandlung von selbsttatigen Kollisioasvermeidesystemen, in:ders.(Hrsg.), Autonome Systeme und neue Mobilitat, 2017, S. 143(156).
(39)人类生命的量化就是这样。德国在2011年5月进行的人口普查就是对人的生命进行特别全面的量化的例子。
(40)Baumann/Weber/Mitsch/Eisele,AT,§15 Rn. 102; MuKo-Erb,§34 Rn. 1 16 f.; S-S-Perron,§34 Rn. 117.
(41)参见前引(2),Hilgendorf文。
(42)Fischer,StGB,§34 Rn. 18; MuKo-Erb,§34 Rn. 116; Hilgendorf,Autonomes Fahren im Dilemma(Fn. 38),S. 151 ff.
(43)参见Hilgendorf, Autonomes Fahren im Dilemma(Fn. 38),S. 156 f.
(44)MuKo-Erb,§34 Rn. 129 ff.; Hilgendorf, Autonomes Fahren im Dilemma(Fn. 38),S. 160 f.
(45)除了前引38中的文献,还可参见Beck,Joerden,Schuster和Hilgendorf等人的论文,尤其可参见Weigend,ZIS 2017,S. 599 ff.;Hornle/Wohlers,GA 2018,S. 12 ff.另参见即将出版的Jochen Feldle的博士论文Notstandsalgorithmen. Dilemmatische Situationen im automatisierten StraBenverkehr, 2018.
(46)值得注意的是,在两难困境当中这个问题大多没有被提及,尽管它对于引入冲突避免系统意义非凡。
(47)换言之,所有这些案例中的结果无价值都得以实现。
(48)Hilgendorf,Autonomes Fahren im Dilemma(Fn. 38),S. 164 ff.
(49)质疑性观点,参见Hornle/Wohler,GA 2018, S. 12(21).
(50)详细案情参见英文版维基百科“Tay(bot)”词条。
(51)支持机器的可罚性的观点,参见Matthias,Automaten als Trager von Rechten:P Pladoyer fur eine Gesetzesanderung,2008,2. korrigierte Aufl. 2010;关于“电子人”的争论,参见Beck,Uber Sinn und Unsinn von Statusfragen—zu Vor-und Nachteilen der Einfuhrung einer elektronischen Person, in:Hilgendorf(Hrsg.), Robotik und Gesetzgebung, 2013, S. 239 ff.
(52)不过,根据《德国著作权法》第2条第1款第1项的规定,电脑程序属于受著作权法保护的作品。
(53)Baumann/Weber/Mitsch/Eisele, AT§2 Rn. 7 f.
(54)自动化系统“拟人化”的第二个参考点可能在于,未来越来越多的机器人将与人类建立直接的联系,例如作为老年护工或孩子的玩伴。这要求机器的形态越来越接近人类,或者至少引起人类的积极情感(例如机器人“瓦力”的角色)。如果这样的机器受损甚至是毁损,那么对很多人尤其是它的人类伙伴来说,难以接受将该状况仅仅视为“损坏财物”。就此而言,甚至“机器的人权”这种口号也能拥有支持者。
(55)Baumann/Weber/Mitsch/Eisele,AT§2 Rn. 64 ff.
(56)2017年,德国联邦教育及研究部(BMBF)成立了“平台学习系统”。该平台的其中一个小组委员会研究自主学习系统的法律和伦理挑战,参见www. plattform-lernende-systeme. de/ag-3. html.
(57)Hilgendorf, Recht und autonome Maschinen-ein ProblemaufriB. In:Hilgendorf/Hotitzsch(Hrsg.), Beitrage der 1. Wurzburger Tagung zum Technikrecht,2015,S. 11 ff.
(58)Consider Phlebas, 1987; The Player of Games, 1988; Use of Weapons, 1990; The State of the Art, 1991; Excession, 1996;Look to Winward, 2000; Matter, 2008; Surface Detail, 2010; The Hydrogen Sonata, 2012.
(59)应当将《文明》理解为积极的乌托邦还是反乌托邦,对此并无定论。本文认为更多的是前者。
(60)有时捍卫现有刑法教义学原则和规范的决心也可能与缺乏幻想有关。
(61)这个问题在英美伦理学中已经得到了相当一段时间的集中讨论,例如,Anderson/Anderson(Hrsg,),Machine Ethics 2011;Wallach(Hrsg,),Moral Machines. Teaching Robots Right from Wrong,2010另参见文集Lin/Jenkins/Abney(Hrsg.),Robot Ethics 2. 0. From Autonomous Cars to Artificial Intelligence,2017.德语区的文献,参见Heesen和Neuhauser的文章,载于Hilgendorf(Hrsg.), Robotik im Kontext von Recht und Moral. 2014.
(62)艾萨克·阿西莫夫在其短篇小说《环舞》(1942年)中提出的著名的“机器人三定律”显然是这种“机器人道德”的早期形式:“第一,机器人不得伤害人类,或坐视人类受到伤害;第二,除非违背第一法则,否则机器人必须服从人类命令;第三,除非违背第一或第二法则,否则机器人必须保护自己。”在很多科幻小说和电影(例如2004年的《我,机器人》)中,这些定律都是主题,而且面临着问题。从法学视角来看,阿西莫夫定律难以令人信服,它没有明确应当如何理解“伤害”,对于两难困境也缺乏决定规则。
(63)这一表述是根据一位奥地利裔美国机器人技术幻想家的名著,参见Hans Moravec:Mind Children. The Future of Robot and Human Intelligence,1988.
© 2004-2018 中国地质图书馆版权所有 京ICP备05064691号 京公网安备11010802017129号 地址：北京市海淀区学院路29号 邮编：100083 电话：办公室：(+86 10)66554848；文献借阅、咨询服务、科技查新：66554700 |