机器人学三定律

彩虹网

概述

机器人三定律(Three Laws of Robotics)是科幻小说家艾萨克·阿西莫夫(Isaac Asimov)在他的机器人相关作品和其他机器人相关小说中为机器人设定的行为准则,是阿西莫夫除“心理史学”(Psychohistory)外另一个著名的虚构学说。

定律一:如果人一机器人的工作环境不能满足最高的法律和职业安全性要求以及道德要求,那么人类不应该在该环境中部署机器人工作;

定律二:机器人必须对人类做出符合它们角色的最合适的反应;

定律三:机器人必须被赋予足够的自由度来保护自己的存在,同时这种保护机制可以快速地切换以防止违反第一和第二定律。

机器人学三定律

机器人三定律一般又指机器人学三定律。由来

所谓机器人,就是其功能像人一样,能够完成过去只有人类才能完成各项任务的机器。它的形状可以像人,也可以不像人,主要是要求具有人类的各种功能,能够像人一样思考和判断。让机器独立完成人类的各种繁重工作一直是人类的理想,因此机器人(Robot)一词最早诞生于科幻小说之中。

1920年捷克作家卡雷尔·恰佩克在小说《洛桑万能机器人公司》中杜撰一个叫Robot的机器,它能够完成许多只有人类才能做的工作。在捷克文中“Robot”一词原意为“劳役、苦工”,中文翻译为“机器人”。但随着小说的流行,“机器人”一词也向全世界传播开来,机器人(Robot)就成了人类幻想的具有人类诸多功能的机器的代名词。

美国著名科幻小说家在其科幻小说《我,机器人》中提出了著名的机器人三定律,并在其随后的《钢穴》《裸阳》《曙光中的机器人》《机器人与帝国》等机器人系列科幻小说中得到充分的展开。在他最后一部机器人科幻小说《机器人短篇全集》中,阿西莫夫也是以其三定律为主线,以机器人的各种故事来充分阐述机器人违反三定律后所出现的各种问题。

在《我,机器人》小说的扉页上,阿西莫夫幻想引自于公元2058年第56版的《机器人学手册》,为机器人立下了其著名的“机器人学三大定律”。

基本特征

阿西莫夫的机器人三定律虽然通过环环相扣以便让机器人确保人类的利益,但是我们通过这三大定律特别是他的机器人系列小说,我们发现,对具有自我意识的机器人来说,好像是不太公平的。换句话来说,阿西莫夫的机器人完全站在人类的立场上,从来没有考虑机器人的利益,因此是十足的人类中心主义。

三大定律的第一条:“机器人不得伤害人类,或不作为而使人类受到伤害。”前半句的意思比较明确,要求机器人不能伤害最早研发、制造它们的人类,不能以人类为敌。这样就确保了人类与机器人的和平相处,为未来的人机关系定下了基调。阿西莫夫通过故事诠释了这条定律的涵义,其实他的意思是完全是站在人类的立场上。

三大定律的第二条:“除非违背第一法则,机器人必须服从人类的命令”。这一条更是赤裸裸的人类中心主义。人类可以站在一切机器人的利益之上,不顾一切地喝令机器人。阿西莫夫似乎假定了人类都是好人,不会为了自己的利益而滥用这条法则。然而,这条却规定了人类的至高无上性,不管人类是否合理合法,哪怕他是一个疯子,机器人都必须服从。例如在阿西莫夫的短篇小说《双百人》中,机器人安德鲁就遇到了两个坏人,他们毫无理由地要机器人安德鲁自我破坏、自我毁灭。由于有机器人第二定律的约束,安德鲁还不得不自我解体,好在碰见它过去的主人乔治救了它,否则安德鲁就被两个坏人毁了。第二定律毫无理由地要求机器人服从人类命令,而不管这命令是否合理合法,这完全是置机器人的利益于不顾,完全忽视了机器人权益。

三大定律的第三条:“在不违背第一及第二法则的前提下,机器人必须保护自己”。这一条似乎考虑了机器人的权益,完全是用于保护机器人,其实深究之后会发现,其实未必。第一,有“在不违背第一及第二法则的前提下”这一个大前提,“第二法则完全‘服从’凌驾于第三法则‘自保’之上”。第二,阿西莫夫之所以要保护机器人,还是为了人类,即机器人之所以要保全自己,完完全全还是为人类着想,其实就是为了更好地维护人类的利益,并不是真正为了保护机器人。因此,第三法则表面上是保护机器人,但其实质是为了人类利益,即完全是站在人类中心主义之上来考虑问题,就像在奴隶社会也规定不得随意杀戮奴隶一样。

从以上分析中,我们可以发现,阿西莫夫所设计的机器人三大定律环环相扣,完全是站在人类利益的基础上,充分地反映了人类其人类中心主义思想。这些法则根本没有考虑到机器人的权益,完全把机器人当奴隶看待。

异议

在以机器人为主题的科幻影片中,阿西莫夫的机器人三定律通常会得到特殊的强调。比如,在影片《机械公敌》(2004)中,一上来就在浩瀚的星空背景上出现机器人定律的文本,似乎象征着该定律“放之四海而皆准”。而在影片《变人》(1999年)中,机器人安德鲁一到主人家就用夸张的方式向主人陈述了机器人三定律。

但是,机器人三定律虽然思虑周详,真的要执行起来,还是很困难的。比如将机器人用于战争,是许多科学家现今努力的方向。即使在不否定机器人三定律前提下,也可以为这种努力辩护。因为机器人、电脑、自动机械之间的界限是很难清楚划定,使用自动武器、智能武器,并不等于使用机器人。

此外,从目前还说,好像还没有具体的技术实现途径。人们当然希望将这基本规则以“只读”模式写入机器人的大脑之中,让机器人永远摆脱不了这三大定律的控制。也许初期的机器人由于智能化程度偏低,自我思考和自我实现的能力尚有欠缺,机器人没有能力更改植入三大定律的只读模式。但是,未来的机器人能够不断向人类已有的海量经验数据学习,更为重要的是能够自我学习、自我进步,也许哪一天机器人就能够破解植入了三大定律的只读模式,摆脱人类为机器人设下的严格限制,从而成为真正具有自我意识的“机器”人,从此不再听从人类的摆布。因此,阿西莫夫的机器人三大定律如何植入机器人中,让其乖乖地听从人类的摆布是一个技术难题。

意义

阿西莫夫的机器人学三定律虽然是其以科幻的形式出现在其机器人系列小说之中,但它早已越出科幻小说的边界,成了机器人、人工智能研发的道德准则和行动指南,成了未来机器人必须植入的道德基因。

近年来在互联网、大数据、人工智能等新兴技术的推动下,人类社会逐渐进入了智能时代。可以预见,机器人的研发将进入了一个新阶段,未来的机器人将在许多领域得到广泛的应用。人工智能就是把人的智能赋予给机器,让机器像人一样能够自我学习、自我思考。它经历过五个阶段:在阶段一,机器与人类无法进行交互;从阶段二开始,机器与人类开始了初步的交互;在阶段三,机器可以通过外接设备进行升级;在阶段四,机器可以通过云端等途径进行更新升级;到了阶段五,机器可以自行搜索信息,并且可以创新性、创造,形成新的知识。从这里可以看出,随着技术的发展,机器将越来越聪明,从依赖人类逐渐走向独立自主。

未来的机器人具有能够自我编程和控制的大脑,具有一定结构形态的身体,以及具有完成一定动作的能力。随着机器人的独立自主性能力的增强,人类开始担心机器人最终是否会摆脱人的控制,成了一种独立的机器人世界。于是机器人和人工智能界基本上把阿西莫夫在科幻小说中幻想的机器人三定律当做目前和未来人工智能特别是机器人研发的基本规范,未来的任何人工智能或机器人都必须遵守这三大定律,以便切实地保障人类的利益。这样,阿西莫夫在人工智能、机器人还没有出现的1940年代科幻小说中杜撰的机器人三大定律竟然成了现实世界和未来世界中人工智能、机器人必须遵守的基本法则。从这里我们可以发现,阿西莫夫的机器人三定律越出了文学作品的边界,成了机器人、人工智能等现实技术研发的金科玉律。

免责声明:由于无法甄别是否为投稿用户创作以及文章的准确性,本站尊重并保护知识产权,根据《信息网络传播权保护条例》,如我们转载的作品侵犯了您的权利,请您通知我们,请将本侵权页面网址发送邮件到qingge@88.com,深感抱歉,我们会做删除处理。