人工智能产品犯罪刑法规制的必要性探究

时间:2019-09-27

　　摘要：人工智能技术的发展， 必然会给传统刑法带来新的挑战。在弱人工智能时代， 亟需考虑如何将传统刑法和人工智能技术有效衔接， 不必要通过大量立法规制人工智能产品涉嫌犯罪问题。在强人工智能时代， 可适时考虑赋予人工智能产品刑事责任主体资格， 当传统刑法罪名和刑罚类型无法处理时， 应正确区分不同状态下强人工智能产品的刑事责任能力， 通过增设人工智能事故罪、破坏人工智能体罪等罪名和删除数据、修改程序、无偿回收、永久销毁等刑罚措施规制， 但在设定刑罚措施时， 必须遵守罪责刑相适应原则， 保障人工智能技术健康发展。

　　关键词：人工智能； 人工智能犯罪； 刑法规制；

　　一、研究背景

　　国务院于2017年7月正式颁布《新一代人工智能发展规划》， 该文件出台标志着我国将人工智能技术发展上升为国家战略[1].随着人工智能技术发展， 人工智能产品的"智能化"程度越来越超乎人们的想象， 已出现无人驾驶汽车等人工智能产品涉嫌犯罪案例1.鉴于传统刑法在人工智能产品涉嫌犯罪问题规制方面存在空白， 近几年刑法学界已展开初步讨论。有学者认为， 面对人工智能技术给传统刑法带来的挑战， 首先应考虑二者对接问题， 可通过旧刑法教义学解决的问题， 不必增设大量罪名[2].也有学者认为， 应将人工智能产品根据"智能化程度"分为弱人工智能产品和强人工智能产品， 如在刑法分则中增设人工智能事故罪、滥用人工智能罪， 并可根据人工智能水平发展适时考虑赋予人工智能产品刑事责任主体地位[3].以上研究成果既明确体现人工智能时代对刑事责任主体规定的新要求， 也向立法和司法机关传递了需积极响应以适应人工智能时代发展的信号。纵观现有研究成果， 否定强人工智能产品刑事责任主体地位的学者认为其不可能出现类似人的意识， 但并未提出有力依据。肯定者对人工智能技术的发展持乐观态度， 从不同角度论述赋予强人工智能产品刑事责任主体地位的可行性， 但鲜有文章论述弱人工智能与强人工智能阶段衔接问题， 详细阐述强人工智能产品涉嫌犯罪的罪名适用和刑事责任区分问题者更少。人工智能发展带来的新情况和新问题， 势必会对传统刑法规定形成冲击， 仅通过立法并不能彻底解决人工智能产品涉嫌刑事犯罪问题， 应在人工智能发展不同阶段， 通过刑法解释和立法等不同规制方式应对。首先， 需确定何种人工智能产品可作为刑事责任主体。其次， 何种情况下由人工智能产品自身承担刑事责任， 以及是否存在研发者和使用者逃避法律制裁可能。最后， 如人工智能产品可作为刑事责任主体， 应如何设定刑罚措施？将人工智能产品分为"弱智能"和"强智能", 既能保持刑法相对稳定， 同时解决人工智能发展给刑法带来的挑战[4].

　　二、涉人工智能产品犯罪刑法规制的必要性

　　（一） 强、弱人工智能产品内涵

　　在计算机信息技术领域， 程序员通过算法复杂性区分人工智能产品的智能化程度， 但这种区分方法并不适用于法学研究。张明楷教授认为， 是否具备辨认和控制能力是判断行为主体责任能力的标准[5].在区分强、弱人工智能产品时， 也应从判断其是否具辨认和控制能力入手。弱人工智能产品不具辨认和控制能力， 无独立意识和意志， 仅可在程序员编制程序范围内实施操作。换言之， 弱人工智能产品行为受设计师或程序员控制， 实现人类设计和编制程序目的。强人工智能产品有辨认和控制能力， 可超越程序员为其编制和设计的程序范围， 实施基于自身意识和意志的行为。目前， 人工智能产品行为尚未超越程序范围， 但随着人工智能技术发展， 极可能出现具有独立意识和意志的人工智能产品。

　　（二） 涉人工智能产品犯罪刑法规制的必要性

　　人工智能发展存在极大不确定性， 可能会对现有法律规定和社会伦理产生冲击。刑法应适时介入人工智能发展。同时， 人工智能在一定程度上会促进社会进步， 在工业、服务业等方面极大提高工作效率， 故刑法不应成为人工智能发展障碍， 而应为其健康发展保驾护航。根据人工智能产品智能化程度不同， 将其分为弱人工智能产品和强人工智能产品。根据人工智能发展的不同阶段， 人工智能产品的刑事风险可分为以下两种情况：

　　首先， 弱人工智能产品不具辨认和控制能力， 仅可在设定程序范围内实施相应行为， 此时人工智能产品可充当人类犯罪行为的工具， 原本通过行为人亲自实施的犯罪行为， 可借助人工智能产品实施[6].如犯罪分子远程控制智能机器人， 通过智能机器人携带危险品危害公共安全。此外， 随着人工智能产品大量使用， 涉大数据的新型犯罪随之产生。如犯罪分子利用智能机器人整合分析大量数据， 侵犯个人隐私。因此， 在弱人工智能产品时代， 对人工智能产品涉嫌刑事犯罪规制的必要性不言而喻。

　　其次， 强人工智能产品具有辨认和控制能力， 能在研发者设计程序范围外实施行为。学界对是否存在不受人类控制的人工智能产品尚存争议[7], 现有研究成果未从正面提出可靠依据证明不受人类控制的人工智能产品一定会出现， 但亦不能否认其出现的可能性， 且这种可能性会随着人工智能技术进步逐步增大。法律很大程度上滞后于社会发展， 但针对法律问题的思考应具前瞻性， 某一问题是否应上升到法律层面， 应考虑该问题出现的可能性。提前规划相应风险控制措施， 有利于人工智能健康发展。

　　人工智能快速发展给人类社会带来极大便利， 一些工作可完全由智能机器人完成， 极大提高工作效率。因此， 刑法对人工智能产品涉嫌犯罪的规制应保持一定限度， 不能阻碍其发展。刑法作为维护社会稳定的最后一道防线， 只有在行为存在严重危害性时， 方可规制。在人工智能技术发展过程中， 不可避免会出现一定问题， 只有当民事赔偿和行政处罚等手段不足以防止此类问题继续发生时， 方可通过刑事立法解决[8].

　　三、涉人工智能产品犯罪的刑法规制方法

　　弱人工智能产品和强人工智能产品涉嫌刑事犯罪问题不能一概而论， 现阶段， 弱人工智能产品只是人类使用的工具， 不能认定为犯罪主体， 而强人工智能产品可能会在研发者为其设定的程序外实施相应行为， 应赋予其刑事责任主体资格承担相应刑事责任。

　　（一） 弱人工智能产品：善用刑法解释， 激活传统罪名

　　弱人工智能产品不存在独立意识和意志， 即使其实施了危害社会行为， 也是研发者或使用者将其作为犯罪工具使用， 不能归责于智能产品本身。故在弱人工智能产品涉嫌犯罪时， 应追究研发者和使用者刑事责任。可通过刑法扩大解释将行为纳入刑法调整范围。如传统刑法中生产不符合安全标准的产品罪、拒不履行信息网络安全管理义务罪、非法利用信息网络罪等罪名设定， 从文义解释和犯罪构成角度而言， 弱人工智能产品实施犯罪行为很难归入以上罪名。但通过刑法扩大解释， 弱人工智能产品是融合大量信息网络技术实体， 在弱人工智能时代， 理应将其犯罪行为归入前述罪名。刑法的扩大解释是一种合理推演， 原因在于词语含义本身具有一定弹性， 包括核心含义和边缘含义。弱人工智能产品与其他科技产品并无本质区别， 故现行刑法中生产不符合安全标准的产品罪、非法利用信息网络罪、帮助信息网络犯罪活动罪等均可规制弱人工智能产品涉嫌刑事犯罪， 无须大量设置人工智能事故罪和滥用人工智能罪等新罪名[7].

　　1. 生产不符合安全标准的产品罪。

　　随着弱人工智能产品广泛使用， 市场监督管理部门和人工智能行业协会应加快人工智能产品国际标准、行业标准的制定和实施， 使智能产品生产商在生产过程中注重产品安全性， 也为消费者在遭受侵害后提供维权依据。当研发者或生产商明知或应知人工智能产品不符合标准， 且由于该生产行为造成严重后果时， 研发者或生产商可能触犯生产不符合安全标准产品罪。

　　2. 拒不履行信息网络安全管理义务罪。

　　《刑法修正案 （九） 》增加了拒不履行信息网络安全管理义务罪， 将违反法定义务的网络危害行为纳入刑法调整范围。该罪是典型涉网不作为犯罪， 在弱人工智能产品时代， 研发者和生产商负有保障人工智能产品安全性义务， 市场监管机关发现相关智能产品不符合安全标准并通知研发者或生产商纠正， 在具备相应技术能力情形下， 如研发者或生产商拒不履行法定义务且造成严重后果， 可能涉嫌拒不履行信息网络安全管理义务罪。

　　3. 非法利用信息网络罪。

　　在弱人工智能时代， 人工智能产品的生成基础是计算机程序。如弱人工智能产品研发者或使用者将犯罪计算机网络程序写入智能产品， 利用该人工智能产品实施犯罪行为， 不应由该人工智能产品承担刑事责任， 如造成严重后果， 其研发者或使用者可能触犯非法利用信息网络罪。此外， 《刑法修正案 （九） 》也相应增设帮助信息网络犯罪活动罪， 该罪将非法利用信息网络罪共犯独立出来， 可见此类犯罪仅通过共同犯罪相关规定处罚与其社会危害程度并不匹配。原因在于， 此类犯罪主犯直接利用成品犯罪， 主观故意与通过其他途径实施犯罪行为并无差异， 而真正最大的威胁是为该科技产品写入程序的"幕后黑手", 即为该设备写入计算机程序语言的研发者。犯罪嫌疑人非法为人工智能产品写入程序， 造成严重后果的， 其行为危害程度同样不容小觑， 故这种帮助行为也会触犯帮助信息网络犯罪活动罪。

　　（二） 强人工智能产品：厘清产品性质， 完善刑法规定

　　随着人工智能技术发展， 产品智能化程度越来越高， 产品研发者和使用者对人工智能产品的控制力也会越来越弱。由于实施犯罪行为依靠智能产品本身意识和意志， 此时， 该行为带来的刑事责任不能由研发者和使用者独立承担。适时赋予强人工智能产品刑事责任主体资格是不可回避的问题。此外， 即使通过立法赋予强人工智能产品刑事责任主体资格， 其行为是否可被认定为刑法上的"危害行为"尚待探讨[9].主流观点认为， 人工智能产品的行为除实施主体外， 与人的行为并无差异， 其在研发者设计和编制程序范围外实施的行为完全可认定为刑法意义上的"危害行为"[10].

　　在强人工智能时代， 涉人工智能产品犯罪大致可分为三种形式：第一， 利用人工智能产品实施犯罪行为， 即将人工智能产品作为犯罪工具使用；第二， 对人工智能产品犯罪， 在赋予人工智能产品刑事责任主体地位后， 从其涉嫌刑事犯罪追究刑事责任的角度而言， 人工智能产品不再是单一财产属性， 破坏人工智能产品的行为不能简单认定为侵犯财产犯罪， 鉴于强人工智能产品的刑事责任主体属性， 当该人工智能产品受到侵犯时， 理应以刑法保护；第三， 人工智能产品基于自身意识和意志独立实施犯罪行为[11].

　　1. 利用人工智能产品实施犯罪行为。

　　利用人工智能产品实施犯罪行为并不需要通过增设罪名规制， 包括行为人利用人工智能产品实施犯罪行为或人工智能产品与行为人共同实施犯罪行为， 在这两种情形下， 其行为涉及罪名通过刑法中间接正犯和共同犯罪理论即可确定， 另一方面， 确定罪名后适用的刑罚措施则需根据人工智能产品特性增加。

　　2. 人工智能产品独立实施犯罪行为。

　　人工智能产品独立实施犯罪行为， 即人工智能产品作为犯罪主体时， 同样无需增设特殊罪名规制， 如人工智能产品实施故意杀人行为， 裁定故意杀人罪即可， 对于强人工智能产品作为犯罪主体实施的犯罪行为， 规制其行为的刑罚种类自需增加， 这与行为定性问题并不矛盾。另一方面， 人工智能产品独立实施犯罪行为时， 很可能涉及计算机程序研发者或设计者责任， 具体而言， 在强人工智能时代， 即使人工智能产品具有独立意识和意志， 通过自身辨认和控制能力实施犯罪行为， 究其本质， 部分原因是计算机程序设计使然， 此时需根据研发者对事故责任的主观意识判断责任归属。如前文所述， 强人工智能时代， 人工智能产品不再是普通财产， 故弱人工智能时代适用的生产不符合安全标准产品罪不适用于强人工智能时代人工智能产品， 应为研发者设定罪名以期规制其不当行为。

　　（1） 增设罪名：人工智能事故罪。强人工智能时代， 如不约束研发者和使用者， 任其滥用人工智能技术制造人工智能产品， 可能会给社会稳定带来极大不确定性。人工智能产品研发者和使用者控制人工智能产品潜在风险相对容易， 故当其违背法律或道德要求使用人工智能技术造成严重后果， 且无法用其他罪名处罚时， 可考虑构成人工智能事故罪。具体而言， 当研发者或使用者对人工智能产品实施的犯罪行为应预见而未预见或已预见而轻信能够避免时， 是人工智能事故罪的过失犯罪， 如研发者或使用者明知人工智能产品的行为可能导致危害后果， 仍放任其实施危害行为的， 构成人工智能事故罪的间接故意犯罪， 如研发者或使用者客观上实施某种行为直接促使人工智能产品实施犯罪行为， 应以间接正犯相关规定处理。

　　关于犯罪竞合问题， 当研发者或使用者将人工智能产品作为犯罪工具使用， 且对破坏人工智能产品存在故意或过失心态时， 需根据具体犯罪行为认定想象竞合或数罪[12].具体而言， 当研发者或使用者将人工智能产品作为犯罪工具使用， 且该利用行为导致破坏人工智能产品， 应认定为想象竞合， 而当研发者或使用者实施数个犯罪行为， 其中某一犯罪行为指向该人工智能产品， 造成产品损坏的， 应通过数罪并罚规制。

　　关于刑事责任能力区分问题， 即使将强人工智能产品认定为刑事责任主体， 并非要求其对一切犯罪行为承担刑事责任。人作为刑事责任主体时， 尚具有减弱或丧失刑事责任能力情形， 强人工智能产品也应区分刑事责任能力。对于间歇性系统异常或被植入病毒的强人工智能产品， 应根据实施犯罪行为时的状态区分刑事责任。强人工智能产品在不能辨认或控制行为时造成危害结果， 不负刑事责任。间歇性系统异常的强人工智能产品系统不正常时实施犯罪行为的， 不负刑事责任。

　　（2） 增设刑罚种类：删除数据、修改程序、永久销毁。在强人工智能时代， 当人工智能产品独立实施犯罪行为时， 必然需承担一定刑事责任， 而现有刑法中大部分刑罚措施， 有期徒刑、无期徒刑等自由刑， 罚金、没收财产等财产刑， 均无法有效规制人工智能主体行为[13].人工智能主体与自然人、单位主体相比， 仅是性质不同， 在为其设定刑罚措施时， 必须遵守罪责刑相适应原则。

　　（1） 删除数据、修改程序。人工智能产品行为依赖其存储的计算机数据和程序， 一旦清除这些数据和程序， 该人工智能产品便不能再实施犯罪行为， 而正常程序和数据仍可使用。故在人工智能产品实施轻微犯罪行为时， 可通过删除数据和修改程序方法处罚。

　　（2） 无偿回收。人工智能产品虽可认定为刑事责任主体， 但其本身仍具一定财产属性和使用价值， 不必实施报废、永久销毁等措施。类似于"没收财产"的"无偿回收"措施， 既可达到处罚效果， 也能最大程度合理利用。国家机关将涉嫌严重刑事犯罪的人工智能产品无偿回收， 通过更改程序或数据， 恢复其正常状态， 使人工智能产品继续为社会提供服务。

　　（3） 永久销毁。可以预见， 人工智能产品智能化程度可能具有反删除数据、反修改程序等功能， 此时不适用删除数据、更改程序及无偿回收等措施， 可考虑适用永久销毁措施。

　　3. 将人工智能产品作为犯罪对象。

　　强人工智能产品行为可能不受人类为其设计的程序控制， 其辨认能力和控制能力来源于自身意识和意志。此时， 人工智能产品将独立于传统刑法中规定的自然人和单位， 成为一种"类人体".卢勤忠教授认为， 强人工智能产品能够在意识、实践和自由方面相对于弱人工智能产品有所突破， 通过人工智能技术的深度学习， 可产生自主意识和意志， 应将其定位为不具有生命体征的"人工人"[14].基于此， 此时将人工智能产品作为犯罪对象， 就不能简单认定为侵犯财产罪。鉴于其不再为单纯财产属性， 传统刑法规定的侵犯财产罪不再适用， 应针对人工智能产品"类人体"属性设定相应罪名， 如破坏人工智能体罪。破坏人工智能体罪不应仅规制故意破坏行为， 同样需规制过失破坏行为， 只有在保证权责一致情况下， 才能将人工智能主体称为真正刑法意义上的刑事责任主体。应注意与人工智能事故罪区分， 破坏人工智能体罪是将人工智能产品作为犯罪对象， 而人工智能事故罪意图规制的是人工智能产品独立实施的犯罪行为背后因研发者的间接故意或过失行为， 研发者或使用者涉嫌人工智能事故罪的行为并不会破坏人工智能产品。

　　四、结语

　　人工智能时代带来的新情况和新问题必然会给传统刑法带来新的挑战， 在面对此类问题， 需考虑如何将传统刑法和人工智能技术有效衔接。对于人工智能问题， 笔者认为， 强人工智能时代距离尚远， 短期内不必要通过大量立法解决已出现问题， 大量立法意味着降低犯罪门槛， 扩大犯罪构成要件， 不仅会破坏刑法稳定性， 也不利于维持社会安定和人工智能技术进步。故在弱人工智能时代， 应着重考虑刑法中传统罪名的扩张适用， 通过刑法解释方法有效规制现阶段人工智能问题， 既维持刑法稳定性， 同时有助于促进人工智能技术快速发展[15].在人工智能技术发展到强人工智能时代， 传统刑法罪名和刑罚类型确实无法规制人工智能主体实施的犯罪行为时， 可考虑通过增设罪名和刑罚措施方式规制其犯罪行为。

　　参考文献
　　[1] 刘宪权， 房慧颖。涉人工智能犯罪刑法规制的正当性与适当性[J].华南师范大学学报 （社会科学版） , 2018 （6） .
　　[2] 高铭暄， 王红。互联网+人工智能全新时代的刑事风险与犯罪类型化分析[J].暨南学报 （哲学社会科学版） , 2018 （9） .
　　[3] 刘宪权。人工智能时代的刑事风险与刑法应对[J].法商研究， 2018 （1） .
　　[4] 王燕玲。人工智能时代的刑法问题与应对思路[J].政治与法律， 2019 （1） .
　　[5] 张明楷。刑法学[M].北京：法律出版社， 2016.
　　[6] 刘宪权。涉人工智能犯罪刑法规制的路径[J].现代法学， 2019 （1） .
　　[7] 刘宪权。人工智能时代的刑事责任演变：昨天、今天、明天[J].法学， 2019 （1） .
　　[8] 赵秉志， 詹奇玮。现实挑战与未来展望：关于人工智能的刑法学思考[J].暨南学报 （哲学社会科学版） , 2019 （1） .
　　[9] 李振林。人工智能刑事立法图景[J].华南师范大学学报 （社会科学版） , 2018 （6） .
　　[10] 刘宪权， 胡荷佳。论人工智能时代智能机器人的刑事责任能力[J].法学， 2018 （1） .
　　[11] 叶良芳， 马路瑶。风险社会视阈下人工智能犯罪的刑法应对[J].浙江学刊， 2018 （6） .
　　[12] 刘旭。人工智能体犯罪的刑事归责--以自动驾驶汽车为例[J].山西省政法管理干部学院学报， 2019 （1） .
　　[13] 孙笛。人工智能时代的犯罪风险分析[J].中国人民公安大学学报 （社会科学版） , 2018 （4） .
　　[14] 卢勤忠， 何鑫。强人工智能时代的刑事责任与刑罚理论[J].华南师范大学学报 （社会科学版） , 2018 （6） .
　　[15] 储陈城。人工智能时代刑法的立场和功能[J].中国刑事法杂志， 2018 （6） .

　　注释
　　1 北大法宝。谷歌无人驾驶汽车撞公交， 首次承担部分事故责任[EB/OL]. （2016-03-02） [2019-05-18].http://www.pkulaw.cn/case/pal_a3ecf d5734f711da7576a442465c53107db474b41bc323bbdfb.html?keywords=%E6%97%A0%E4%BA%BA%E9%A9%BE%E9%A9%B6&match=Exact.

TAG标签： 人工智能  

上一篇：探讨刑法法规的基础法则及解读
下一篇：基于风险刑法角度理解煽动型犯罪