人工智能的法律规制路径:一个框架性讨论
|
摘要
中国、美国和欧盟在人工智能的法律规制上初步呈现出自身的特点。面对人工智能技术的发展,中国通过分散式的立法对它在电子商务、新闻内容推荐以及智能投顾等领域的应用进行了回应,算法公开透明是贯穿于这些层级各异的立法的共同要求。美国则是通过司法判例对算法的法律性质进行了明确,在搜索引擎算法的案例中,它被看成言论,刑事辅助审判系统中的算法则被认定为是商业秘密。与中国、美国的个别化进路形成鲜明对比的是,欧盟通过对个人数据权利的严格保护,形成了对人工智能的源头规制模式。在数字经济成为经济发展的新动力的背景下,这三种模式体现了在数据权利保护和人工智能产业发展平衡问题上的不同侧重。
China,U. S. and European Union have taken different approaches toward artificial intelligence regulation. China responded with sporadic legislation to the use of AI in e-commerce,algorithms in news production and Robo-advisors. U. S. uses case law to determine the legal status of algorithms. Algorithm of search engine has been defined as speech,while algorithm in criminal sentence system as commercial secrets. Compared to the individual approach by China and U. S.,European Union adopted the strictest personal data protection rule,which consisted the source regulation of artificial intelligence. These three different approaches will have various effects on the development of artificial intelligence industry. Besides the legal regulation of artificial intelligence,this article focuses on the transformation of legislation,judicial system and law enforcement in the age of artificial intelligence.
China,U. S. and European Union have taken different approaches toward artificial intelligence regulation. China responded with sporadic legislation to the use of AI in e-commerce,algorithms in news production and Robo-advisors. U. S. uses case law to determine the legal status of algorithms. Algorithm of search engine has been defined as speech,while algorithm in criminal sentence system as commercial secrets. Compared to the individual approach by China and U. S.,European Union adopted the strictest personal data protection rule,which consisted the source regulation of artificial intelligence. These three different approaches will have various effects on the development of artificial intelligence industry. Besides the legal regulation of artificial intelligence,this article focuses on the transformation of legislation,judicial system and law enforcement in the age of artificial intelligence.
引文
[1]Frank Easterbrook.Cyberspace and the Law of Horse[J].University of Chicago Legal Forum,1996:207-216.
[2]李晟.略论人工智能语境下的法律转型[J].法学评论,2018(1):106.
[3]Anjanete H.Raymond.Information and the Regulatory Landscape:A Growing Need to Reconsider Existing Legal Frameworks[J].Washington and Lee Journal of Civil Rights and Social Justice,2018,24(2).
[4]方师师.算法如何重塑新闻业:现状、问题与规制[J].新闻与写作,2018(9):11-19.
[5]吴烨,叶林.“智能投顾”的本质及规制路径[J].法学杂志,2018(5):22.
[6]高丝敏.智能投顾模式中的主体识别和义务设定[J].法学研究,2018(5):40-57.
[7]张家林.监管科技(Reg Tech)发展及其应用研究---以智能投顾为例[J].金融监管研究,2018(6):76-93.
[8]胡凌.人工智能的法律想象[J].文化纵横,2017(4):108-116.
[9]左亦鲁.算法与言论---美国的理论与实践[J].环球法律评论,2018(5):122-139.
[10]Veenu Goswami.Algorithms,Expression and the Charter[J].A Way Forward For Canadian Courts.Western Journal of Legal Studies,2017,1(1):3-17.
[11]李本.美国司法实践中的人工智能:问题与挑战[J].中国法律评论,2018(2):54-55.
[12]Anupam Chander.The Racist Algorithm[J].Michigan Law Review,2017,115(6):1027.
[13]Dianelle Keats Citron&Frank Pasquale.The Scored Society:Due Process for Automated Predictions[J].Washington Law Review,2014,89:1.
[14]Danielle Keats Citron.Technological Due Process[J].Washington University Law Review,2008,85(6):1249.
[15]郑戈.算法的法律与法律的算法,[J].中国法律评论,2018(2):75.
[16]Paul Ohm,Blake Reid.Regulating Software When Everything Has Software[J].George Washington Law Review,2016,84(6):1672-1702.
[17]吴习彧.司法裁判人工智能化的可能性及问题[J].浙江社会科学,2017(4):51-56.
[18]Pauline T.Kim.Auditing Algorithms for Discrimination[J].University of Pennsylvania Law Review Online,2017,166:189.
[19]查云飞.人工智能时代全自动具体行政行为研究[J].比较法研究,2018(5):167-179.
[20]季卫东.人工智能时代的司法权之变[J].东方法学,2018(1):133.
[21]李文莉,杨玥捷.智能投顾的法律风险及监管建议[J].法学,2017(8):17.
(1)根据中国电子技术标准化研究院编写的《人工智能标准化白皮书(2018版)》的定义,人工智能是利用数字计算机或数字计算机控制的机器模拟、延申和扩展人的智能,感知环境、获取知识并适用知识获得最佳结果的理论、方法、技术及其应用系统。
(1)德国新的《道路交通法》在自动驾驶汽车侵权问题上沿用车辆所有人严格责任体现了这一思路。关于自动驾驶汽车对美国现有规制体系的挑战及其回应的讨论,参见:Brian A.Browne.Self-Driving Cars:On the Road to a New Regulatory Era[J].Journal of Law,Technology&the Internet,2017,8(1):1-19.
(2)参见:Drew Simshaw,Nicolas Terry,Kris Hauser,M.L.Cummings.Regulating Healthcare Robots:Maximizing Opportunities While Minimizing Risks[J].Richmond Journal of Law&Technology,2016,22(3):1-38.该文讨论了患者的安全、隐私,尤其是医疗器械监管和数据保护法对医疗机器人的影响。医疗领域的机器人有几种主要类型:手术机器人、常规任务机器人以及个人看护机器人。机器人通过利用云端的数据,也许有一天可以做出实时的诊断决定,医疗机器人会变得越来越具有自主性。
(3)参见:中国电子技术标准化研究院编写的《人工智能标准化白皮书(2018版)》。
(4)人工智能在深刻改变着医疗行业,由于大数据和强有力的机器学习技术,各种创新手段被用来推进诊所医疗的过程、推动医学研究以及提高效率。机器人的涉及和利用必须要最大化安全性能,对用户隐私保持敏感性。参见:P W.Nicholson Price II.Artificial Intelligence in Health Care:Applications and Legal Issues,Sci Tech Lawyer,2017,14(10).
(5)关于自动驾驶带来的法律规则的系统讨论,包括道路测试监管、自动驾驶汽车市场准入、准入后监管的方式方法,参见:李磊.论中国自动驾驶汽车监管制度的建立[J].北京理工大学学报,2018(2):127-130;关于自动驾驶汽车的侵权责任的法律分析,参见:张力,李倩.高度自动驾驶汽车交通侵权责任构造分析[J],浙江社会科学,2018(8).
(1)以下关于德国新《道路交通法》内容的讨论,参考了埃里克#希尔根多夫:《自动驾驶的规制之路---对〈德国道路交通法〉最新修订的说明》。微信公众号“人大未来法治研究院”。2018.4.12.
(2)Jeffrey K Gurney对自动驾驶车辆是否应该做出伦理决定进行了探讨。他假设了六种道德困境,从法律和伦理的视角考察在碰撞情境下如何进行算法优化。在伦理上考量了康德主义和功利主义两个面向,在法律维度上则考察了碰撞优化算法的侵权行为和刑法含义。参见:Jeffrey K Gurney.Crashing into the Unknown:An Examination of Crash-Optimization Algorithms Through the Two Lanes of Ethics and Law[J].Albany Law Review,2016(79):183.
(1)参见:Langdon v.Google,Inc.,474 F.Supp.2d 622,629-30(D.Del.2007).
(1)吴修铭(Tim Wu)认为搜索引擎并非属于第一修正案所保护的言论,他对法院将搜索结果等同于意见的观点进行了激烈地批评。(参见:Tim Wu,Machine Speech[J].University of Pennsylvania Law Review,2013,161(6):1525-1531.)
(1)参见:京东法律研究院.欧盟数据宪章:《一般数据保护条例》GDPR评述及实务指引[M].北京:法律出版社,2018.关于该保护条例的介绍,以及与数据保护相关的隐私预期和风险规制,参见:丁晓东.什么是数据权利?---从欧洲《一般数据保护条例》看数据隐私的保护.华东政法大学学报[J],2018(4):39-53.
(2)Seth Katsuya Endo,Technological Opacity&Procedural Injustice[J].Boston College Law Review 2018,59(3):821.Endo描述了不透明的技术如何侵蚀了正当程序和民众参与的规范。关于人工智能问题,始终存在着鼓励创新和权利保护之间的平衡,欧盟数据保护通则显然倾向了后者,而欧盟没有领先的全球性互联网企业也从一个侧面说明了欧洲法律政策的取舍。对于这个问题的讨论,可以参见:郑戈.在鼓励创新与保护人权之间:法律如何回应大数据技术革新的挑战.探索与争鸣[J],2016(7):79-85.
(1)参见:Bryce Goodman&Seth Flaxman,EU regulations on algorithmic decision-making and a“right to explanation”.Available athttps://arxiv.org/pdf/1606.08813v1.pdf.Last visit:2018 Nov.20.该《条例》是否赋予了算法解释权带来了广泛的争议。相反观点可以参见腾讯研究院(编).《欧盟〈通用数据保护条例〉详解》[M],2018:25-26.该书并不认为该《条例》赋予了数据主体以算法解释权,也不认同这些条款对数据权利的保护会导致深度学习违法。
(2)参见深圳市人民政府办公厅.关于印发《深圳市普通高校应届毕业生引进和落户“秒批”(无人干预自动审批)工作方案》的通知(2018).
(1)2018年9月6日,最高人民法院通过了《关于互联网法院审理案件若干问题的规定》,以司法解释的方式从制度上对这个问题进行了初步的回应。该司法解释在总结杭州互联网法院实践的基础上,规定了法院的受案范围、建立了在线诉讼平台、完善了网络诉讼规则。
[2]李晟.略论人工智能语境下的法律转型[J].法学评论,2018(1):106.
[3]Anjanete H.Raymond.Information and the Regulatory Landscape:A Growing Need to Reconsider Existing Legal Frameworks[J].Washington and Lee Journal of Civil Rights and Social Justice,2018,24(2).
[4]方师师.算法如何重塑新闻业:现状、问题与规制[J].新闻与写作,2018(9):11-19.
[5]吴烨,叶林.“智能投顾”的本质及规制路径[J].法学杂志,2018(5):22.
[6]高丝敏.智能投顾模式中的主体识别和义务设定[J].法学研究,2018(5):40-57.
[7]张家林.监管科技(Reg Tech)发展及其应用研究---以智能投顾为例[J].金融监管研究,2018(6):76-93.
[8]胡凌.人工智能的法律想象[J].文化纵横,2017(4):108-116.
[9]左亦鲁.算法与言论---美国的理论与实践[J].环球法律评论,2018(5):122-139.
[10]Veenu Goswami.Algorithms,Expression and the Charter[J].A Way Forward For Canadian Courts.Western Journal of Legal Studies,2017,1(1):3-17.
[11]李本.美国司法实践中的人工智能:问题与挑战[J].中国法律评论,2018(2):54-55.
[12]Anupam Chander.The Racist Algorithm[J].Michigan Law Review,2017,115(6):1027.
[13]Dianelle Keats Citron&Frank Pasquale.The Scored Society:Due Process for Automated Predictions[J].Washington Law Review,2014,89:1.
[14]Danielle Keats Citron.Technological Due Process[J].Washington University Law Review,2008,85(6):1249.
[15]郑戈.算法的法律与法律的算法,[J].中国法律评论,2018(2):75.
[16]Paul Ohm,Blake Reid.Regulating Software When Everything Has Software[J].George Washington Law Review,2016,84(6):1672-1702.
[17]吴习彧.司法裁判人工智能化的可能性及问题[J].浙江社会科学,2017(4):51-56.
[18]Pauline T.Kim.Auditing Algorithms for Discrimination[J].University of Pennsylvania Law Review Online,2017,166:189.
[19]查云飞.人工智能时代全自动具体行政行为研究[J].比较法研究,2018(5):167-179.
[20]季卫东.人工智能时代的司法权之变[J].东方法学,2018(1):133.
[21]李文莉,杨玥捷.智能投顾的法律风险及监管建议[J].法学,2017(8):17.
(1)根据中国电子技术标准化研究院编写的《人工智能标准化白皮书(2018版)》的定义,人工智能是利用数字计算机或数字计算机控制的机器模拟、延申和扩展人的智能,感知环境、获取知识并适用知识获得最佳结果的理论、方法、技术及其应用系统。
(1)德国新的《道路交通法》在自动驾驶汽车侵权问题上沿用车辆所有人严格责任体现了这一思路。关于自动驾驶汽车对美国现有规制体系的挑战及其回应的讨论,参见:Brian A.Browne.Self-Driving Cars:On the Road to a New Regulatory Era[J].Journal of Law,Technology&the Internet,2017,8(1):1-19.
(2)参见:Drew Simshaw,Nicolas Terry,Kris Hauser,M.L.Cummings.Regulating Healthcare Robots:Maximizing Opportunities While Minimizing Risks[J].Richmond Journal of Law&Technology,2016,22(3):1-38.该文讨论了患者的安全、隐私,尤其是医疗器械监管和数据保护法对医疗机器人的影响。医疗领域的机器人有几种主要类型:手术机器人、常规任务机器人以及个人看护机器人。机器人通过利用云端的数据,也许有一天可以做出实时的诊断决定,医疗机器人会变得越来越具有自主性。
(3)参见:中国电子技术标准化研究院编写的《人工智能标准化白皮书(2018版)》。
(4)人工智能在深刻改变着医疗行业,由于大数据和强有力的机器学习技术,各种创新手段被用来推进诊所医疗的过程、推动医学研究以及提高效率。机器人的涉及和利用必须要最大化安全性能,对用户隐私保持敏感性。参见:P W.Nicholson Price II.Artificial Intelligence in Health Care:Applications and Legal Issues,Sci Tech Lawyer,2017,14(10).
(5)关于自动驾驶带来的法律规则的系统讨论,包括道路测试监管、自动驾驶汽车市场准入、准入后监管的方式方法,参见:李磊.论中国自动驾驶汽车监管制度的建立[J].北京理工大学学报,2018(2):127-130;关于自动驾驶汽车的侵权责任的法律分析,参见:张力,李倩.高度自动驾驶汽车交通侵权责任构造分析[J],浙江社会科学,2018(8).
(1)以下关于德国新《道路交通法》内容的讨论,参考了埃里克#希尔根多夫:《自动驾驶的规制之路---对〈德国道路交通法〉最新修订的说明》。微信公众号“人大未来法治研究院”。2018.4.12.
(2)Jeffrey K Gurney对自动驾驶车辆是否应该做出伦理决定进行了探讨。他假设了六种道德困境,从法律和伦理的视角考察在碰撞情境下如何进行算法优化。在伦理上考量了康德主义和功利主义两个面向,在法律维度上则考察了碰撞优化算法的侵权行为和刑法含义。参见:Jeffrey K Gurney.Crashing into the Unknown:An Examination of Crash-Optimization Algorithms Through the Two Lanes of Ethics and Law[J].Albany Law Review,2016(79):183.
(1)参见:Langdon v.Google,Inc.,474 F.Supp.2d 622,629-30(D.Del.2007).
(1)吴修铭(Tim Wu)认为搜索引擎并非属于第一修正案所保护的言论,他对法院将搜索结果等同于意见的观点进行了激烈地批评。(参见:Tim Wu,Machine Speech[J].University of Pennsylvania Law Review,2013,161(6):1525-1531.)
(1)参见:京东法律研究院.欧盟数据宪章:《一般数据保护条例》GDPR评述及实务指引[M].北京:法律出版社,2018.关于该保护条例的介绍,以及与数据保护相关的隐私预期和风险规制,参见:丁晓东.什么是数据权利?---从欧洲《一般数据保护条例》看数据隐私的保护.华东政法大学学报[J],2018(4):39-53.
(2)Seth Katsuya Endo,Technological Opacity&Procedural Injustice[J].Boston College Law Review 2018,59(3):821.Endo描述了不透明的技术如何侵蚀了正当程序和民众参与的规范。关于人工智能问题,始终存在着鼓励创新和权利保护之间的平衡,欧盟数据保护通则显然倾向了后者,而欧盟没有领先的全球性互联网企业也从一个侧面说明了欧洲法律政策的取舍。对于这个问题的讨论,可以参见:郑戈.在鼓励创新与保护人权之间:法律如何回应大数据技术革新的挑战.探索与争鸣[J],2016(7):79-85.
(1)参见:Bryce Goodman&Seth Flaxman,EU regulations on algorithmic decision-making and a“right to explanation”.Available athttps://arxiv.org/pdf/1606.08813v1.pdf.Last visit:2018 Nov.20.该《条例》是否赋予了算法解释权带来了广泛的争议。相反观点可以参见腾讯研究院(编).《欧盟〈通用数据保护条例〉详解》[M],2018:25-26.该书并不认为该《条例》赋予了数据主体以算法解释权,也不认同这些条款对数据权利的保护会导致深度学习违法。
(2)参见深圳市人民政府办公厅.关于印发《深圳市普通高校应届毕业生引进和落户“秒批”(无人干预自动审批)工作方案》的通知(2018).
(1)2018年9月6日,最高人民法院通过了《关于互联网法院审理案件若干问题的规定》,以司法解释的方式从制度上对这个问题进行了初步的回应。该司法解释在总结杭州互联网法院实践的基础上,规定了法院的受案范围、建立了在线诉讼平台、完善了网络诉讼规则。