研究瓦拉赫与艾伦的智能机器人道德伦理理论及

时间:2019-09-27

　　在未来，一个(技术)人工物道德行为体(artifi-cialmoralagents，以下简称AMAs)能够获得合法道德行为体的资格吗?其在根本上能够被看作一种“行为主体”吗?一个自治系统(autonomoussystem，简称AS)能够“真正地”满足和具备自治行为的需要吗?以上关于道德主体(moralagency)和自治权(autonomy)的问题———无论其是否被视为不同的概念或是密不可分的观念———历来是哲学家和伦理学家所关注的。近年来，在人工智能(ArtificialIntelli-gence，AI)研究领域中又新兴起“技术人工物道德”和“机器(人)伦理”探讨的热潮，该跨学科交叉领域也引起了诸多计算机科学家、哲学家和工程师的兴趣。
　　耶鲁大学生命伦理学跨学科研究中心的温德尔·瓦拉赫(WendellWallach)和印第安纳大学认知科学工程中心的科林·艾伦(ColinAllen)成为美国“机器(人)伦理学”研究的肇始者，其早在2006年就开始发文探讨技术人工物的道德问题，这与同时期欧洲(以GianmarcoVeruggio为代表)和日本(以MakotoNakada为代表)的机器人伦理学研究形成三足鼎立之势，成为美国“机器人伦理研究”的重要代表人物。在瓦拉赫和艾伦合着的《机器伦理:教导机器人区分善恶》(Moralmachines:teachingrobotsrightfromwrong，英文版由牛津大学出版社2010年出版)一书中，对AMAs的诸多理论和实践问题进行了全面探讨。以下就以《机器伦理:教导机器人区分善恶》为核心文本，对瓦拉赫与艾伦的AMAs的伦理设计思想进行解读。
　　一、瓦拉赫和艾伦对善建AMAs必要性的说明
　　(一)世界需要善建AMAs
　　瓦拉赫和艾伦在该书的引言部分提出了三个关键问题，其中之一是:“世界是否需要AMAs?”瓦拉赫和艾伦对此给予了肯定的回答，他们认为，随着新兴科技的出现和机械化程度的飞速提升，智能化、自治型机器人开始走进我们的生活视野，AMAs在人工智能技术的支持下可能为人类社会带来各种伦理诘难和社会问题，使得AMAs呈现出一定的社会危害性。但是其认为并不能仅仅因为一些未来学家和社会评论家对未来技术人工物可能出现的问题进行诟病而就此因噎废食，从而阻断具有自治型人工物技术的发展。面对建构AMAs过程中风险评估的重要性，他们从伦理学中寻求“预防性原则”来规范AMAs，并指出“对于这些伦理原则何时使用(或不使用)要建立一个标准”，因地制宜地采用恰当的方法进行风险评估，并在此基础上对于发展AMAs的危险是否大于风险进行再评估。瓦拉赫和艾伦对未来保有一种乐观态度，他们畅望在不久的将来，“我们人类将能够成为一种工程师系统，该系统对于法律和道德因素的考量将更为敏感，并结合实时情境做出伦理决策”。有鉴于此，瓦拉赫和艾伦坚持立场并得出结论:世界不但需要AMAs，世界更需要善建AMAs，我们人类并不会因惧怕科幻作家笔下机器人的泛滥世景而在发展计算机技术方面风声鹤唳、裹足不前。总而言之，其对“我们是否需要以及为什么需要AMAs”进行了解答并抱有一种乐观主义态度。
　　(二)需要道德上的“图灵测试”
　　“图灵测试(Turingtest)”是由阿兰·图灵(Al-anTuring)在《计算机器与智能》(1950)中首次提出的。图灵设想了一种“模仿游戏”来测定和检验“机器能够思维吗”的问题。图灵认为“机器代替游戏中的人”的设想是可以实现的，并且预计“大约在50年的时间里，有可能对具有约109存储量的计算机进行编程，使得它们在演示模仿游戏时达到这样出色的程度”。随着人工智能技术日新月异的发展，世界各国时刻刷新着纪录，人们把技术人工物植入“人－机对话”环境中进行测试的结果无时无刻不在宣布这样一个事实:更加先进的计算机系统已变得与人类难以区分。瓦拉赫和艾伦是“图灵测试”的忠诚信徒，他们坚信人工智能的发展必定打破阿兰·图灵所编织的神话。他们把“图灵测试”引入伦理学领域，为老论题带来了新的问题域，以一种全新的道德维度对“图灵测试”进行全新的考察。他们援引智能机器(包括机器人和软件机器人)在经济市场和政治领域中所起作用的例子进行说明，“尽管新技术在广泛社会应用之前，我们无法预测期对社会的影响，但是，我们相信计算机应该能够做出正确的、善的道德决策”，成功通过道德的“图灵测试”，因此，“每个人对计算机所作出的道德决策都肩负着义不容辞的责任，这样的道德主体包括赛博空间内的机器人和虚拟‘机器人’”。
　　(三)“强人工智能”的必然趋势
　　在《机器伦理:教导机器人区分善恶》的第四章，瓦拉赫和艾伦探讨了美国着名哲学家约翰·塞尔(JohnSearle)的“强人工智能(strongAI)”批判理论，认为约翰·塞尔对“强人工智能”的批判与诟病对AMAs工程都有着直接性的影响。此外，瓦拉赫和艾伦认为，一方面，即使约翰·塞尔对“强人工智能”进行了批判，但是这也无法阻止AMAs的发展;另一方面，他们认为其真正需要的是“弱人工智能(weakAI)”来成功执行他们的工作任务。然而，瓦拉赫和艾伦承认实现这一点将是一个艰辛而难以确定的历程，确切地说，就是当一个技术人工物主体(artificialagent)能否成为一个道德主体的过程是不确定的。例如，他们对一类“AMA图灵测试”是否有用表示质疑。此外，他们对人工物主体(AAs)的应用进行测试所存在的优缺点问题进行了深入探讨。
　　二、瓦拉赫与艾伦的“三重区分”理论
　　瓦拉赫与艾伦对“操作式道德(operationalmo-rality)”和“功能式道德(functionalmorality)”进行了区分，并在此基础上与“完整式道德行为(full-blownmoralagency)”进行了对比研究。他们指出，适用于技术的操作式道德，其伦理意义在于对设计者和用户的控制方面，这也是遵循工程伦理学的一般方法。例如，他们指出，与缺乏道德考量和伦理设计的(传统)锤子等设备或工具进行对比的是，装载儿童安全锁机制(child-safety-lockmechanism)的手枪就是符合操作式道德的某种形式。他们指出在技术情景中，“功能式道德”超越前面我们所说的技术上的“操作式道德”，其能够面对道德困境进行“评断(assess)”，并在此基础上作出简单的回应。瓦拉赫与艾伦认为，“功能式道德”存在于一个极为宽泛的范围之中，例如，其涉及从“仅在可接受的行为标准内的行为”系统到“人工智能系统”的整个范围，其具有“对自我行为的道德意义层面进行评价”的能力。
　　在此基础上，瓦拉赫与艾伦依照“自治性(autonomy)”和对价值的“感受性(sensitivity)”这两个重要维度对道德的三个层面进行了框架区分。然而，瓦拉赫与艾伦也注意到，至今尚不存在高度“自治”和“感受性”的系统。他们列举了“自动驾驶仪(autopilot)”的典例，说明其仅具有显着的自治性(限于一定范围)，而在道德价值判断的感受性和灵敏性方面却是很弱的。相反，支持系统的伦理决策(例如，在医学领域用于协助医生做出伦理决策)能够为决策者提供相关伦理信息的帮助，但是这在实质上是没有自主权的(noautonomy)。
　　瓦拉赫与艾伦的“三重区分(three-folddistinc-tion)”理论是对照詹姆斯·摩尔(JamesMoor)的级别理论进行创立的，摩尔把(技术)人工物道德主体划分为“隐性道德主体”“显式的道德主体”“完全式道德主体”三类，而瓦拉赫与艾伦在AMAs情境中按照伦理层次分为“操作式道德”“道德式功能”“成熟式道德行为”三种类型，此即“三重区分”理论。由此我们可以推知，在摩尔的理论框架内，一个“自动驾驶仪”被当作一个隐式道德主体;而这在瓦拉赫与艾伦看来，尽管其对伦理价值来讲只具有极低的感受性，但其在某种程度上符合功能式道德的意蕴。
　　三、两条伦理设计方法———TD方法与BU方法
　　(一)TD方法———“自上而下式”进路
　　“如何善建AMAs的伦理设计方法”是瓦拉赫与艾伦的思想核心，其在《机器伦理:教导机器人区分善恶》的第五至第八章提出了设计人工物道德主体(AMAs)的两条进路，即“自上而下式(top-down)”进路和“自下而上式(bottom-up)”进路。瓦拉赫与艾伦认为，就其自身来说，尽管“自上而下式”进路和“自下而上式”进路这两种方法具有一些突出的、潜在的作用，即伦理理论可以用于AMAs的设计，但是这两个方法对于指导AMAs发展和指导人工智能研究来说都具有各自的缺陷和弊病。瓦拉赫与艾伦指出，首先，就“自上而下”这个术语来说，其在哲学家和工程师那里具有不同的意蕴:例如，在哲学家那里(以康德的“义务论”为代表)，“自上而下”方法指的是通过应用“具体的情况下广泛的标准”来使用的一种方法;而在工程师那里，其所理解的意蕴则是“与哲学家的那种形而上学的意蕴形成对立，意为通过把任务分解为简单的子任务的一种方法”。瓦拉赫与艾伦在结合建构AMAs的“自上而下”方法的两种意蕴的基础上，把其定义描述为“利用特定的伦理理论进行分析指导实现该理论的运算法则(algorithms)和子系统(sub-system)的计算需要”的方法。此外，在引入TD方法之后，瓦拉赫与艾伦特别探讨了艾萨克·阿西莫夫(IsaacAsimov)的着名的“机器人三定律(后来拓展为四定律)”，并把其作为构建伦理型AMAs的一个范例性理论框架。
　　(二)BU方法———“自下而上式”进路
　　“自下而上式”方法是与“自上而下式”方法相对立的一种伦理进路。瓦拉赫与艾伦把“自下而上式”方法也称作“拓展式(developmental)”方法，其指出该方法“重点在于为主体探索行动和学习方面营造一个环境，鼓励AMAs实施道德可嘉型行为”。瓦拉赫与艾伦用相当大的篇幅详细讨论了“自下而上”的方法，其认为在一般的系统开发中，尤其在AMAs的构建中，“自下而上”的方法是一种优势的方法。例如，他们宣称，自下而上型方法的一个优点在于其能够“从不同的社会机制中动态地进行集成输入”，而该方法的另一个优点是，“其能够为完善AMAs整体性发展提供技巧和标准”。然而，他们也承认该方法的局限性和弊端，认为这些技能也许“很难适应和发展”。瓦拉赫与艾伦在面对“自上而下”与“自下而上”这两种针锋相对的方法，又提出了“混合型解决方法(hybridresolution)”。他们认为，美德伦理学可以为构建“混合型方法”提供有益的借鉴，在一定意义上可以把这种“混合型解决方法”称作“混合美德伦理学(hybridvirtueethics)”。
　　四、结语
　　(一)瓦拉赫和艾伦对“未来场景”的展望
　　在《机器伦理:教导机器人区分善恶》一书的最后一章(第十二章)中，瓦拉赫与艾伦对“未来场景”进行了展望，并寻求构建人工物道德系统的可行性方法。例如，其探讨了如下问题:机器道德对于权利、责任、义务等问题究竟意味着什么?我们应当赋予人工物行为体以权利和义务吗?谁该为机器人所犯的错误担责?如果是机器人的错，我们如何让其担责?如果机器人可以担负责任的话，那么他们也应该享有权利吗?政治家和立法者面对这些问题应该采取什么立场?恐惧、惩罚或羞耻对机器人来说有意义吗?政治家和立法者面对这些问题应该采取什么立场?
　　当然，这组问题被视为《机器伦理:教导机器人区分善恶》一书所提出的核心要点。这也是瓦拉赫与艾伦留给读者最为深邃的未来学问题。许多年前，这些问题还仅仅存在于科幻小说中。但面对科幻一次次转换为科学事实，瓦拉赫与艾伦教导我们需要从蒙昧中警醒起来。在尊重人工智能发展现状和对“未来场景”展望的基础上，瓦拉赫与艾伦澄清了这样一个严肃的事实:“现在是时候考虑教会‘机器人分清正误’的时候了。”
　　(二)意义与评价
　　瓦拉赫与艾伦没有落入科幻小说的窠臼，他们预言在未来几年内，“计算机系统将独立于人类自我作出决定，这将是一个灾难性事件”。瓦拉赫与艾伦的AMAs伦理设计思想涉及许多研究领域———包括交互情境中的道德哲学、机器人技术、软件开发以及神经科学等———这是极具开创性的课题。其具有开创性的思想在未来学领域(特别是科技伦理学领域)内刮起了一场“头脑风暴”。机器(人)伦理学作为应用伦理学的一个新兴分支领域，虽然在为人工物主体提供道德哲学方面只是做了一些初步的理论探讨和实践尝试，但是该新兴领域，从道德学习算法到各种逻辑模型的道德决策，从神经网络到纳米技术的范围内都已经逐步引起各领域学者专家关注并引导大批学者积极投入该项研究工作中。
　　总之，瓦拉赫与艾伦引入了(技术)人工物道德和机器的道德决策思想，善建道德机器系统本身就是一个全新的、开创性的研究课题。其《机器伦理:教导机器人区分善恶》一书对该新兴领域的大多数问题进行了初步探讨，第一次描绘了创建道德机器这个艰巨任务的壮阔蓝图。无论如何，随着新兴科技的出现及其机械化程度的提升，智能化、自治型机器人开始走进了我们的生活视野，“机器人在可预见的未来将面临人类道德的考问，也面临担负着人类道德和法律的责任”。瓦拉赫与艾伦关于AMAs的伦理设计思想在当前多领域学科研究中具有重要的借鉴价值和时代意义，其极富创建性的视野为未来机器(人)的发展奠定了道德性根基。

TAG标签：

上一篇：电脑互联网安全问题及预防对策探究
下一篇：探讨党校网站首页色彩定位和功能结构的设计