支持单位: 全国警用装备标准化技术委员会 , 公安部安全与警用电子产品质量检测中心 , 公安部特种警用装备质量监督检验中心 , 国家安全防范报警系统产品质量监督检验中心
jiangbei
历届评选

机器人三大定律的困境

2019-04-22 09:46:41  来源 : 宇宙知识联盟


        警用装备网讯: 当警察和劫匪火拼,根据机器人三大定律,他应该保护哪一个?



  相信大家对机器人三大定律非常熟悉,过去阿西莫夫等人提出了机器人三大定律以后,一直都和图灵的图灵测试作为现在人工智能学的一个金科玉律,我们开发机器人的安全保险,基本上都按照这个原理来设置。



  这机器人三大法则非常简单,但是有着比较严密的逻辑自洽能力,也就是说,机器人必须要服从人类的命令,而且还要保护人类的生命,但是在不违背前两条的基础上,也要保护自身,这似乎看起来给了机器人自我发展的能力,同时也坚持了为人类服务的这个基本目标。



  但是在现在的人工智能研究过程中却也发现了很多问题,机器人三大定律,虽然是一个系统化的逻辑规划能力,但是一旦具体到某些特殊的事件之时会使得机器人的运作系统发生崩溃的危险。



  举个例子来说,一个劫匪和警察两人在火拼之时,那么请问机器人应该去保护哪一个呢?首先,如果按照正常人的思维,他应该去保护警察,打败劫匪,但是他这么做必然就伤害到了劫匪的性命,那就违背了机器人三大法则的第2条,假若他袖手旁观又会使得两条人命都遇到危险。



  这个问题是非常严重的,因为机器人无论怎么选择,他根本无法针对具体的事情做出具体的判断,就好像,人类在面对扶老人问题上,我们内心世界都很难得出一个具体的确切答案,机器人同样会面临人类的问题,在由于他们的情感纽带不如人类完善,所以会面临崩盘的现象。



  虽然我们可以给这个制度里面添加无数个条条框框,就好像人类的法律制度一般,但是机器人可是没有情感的,假若完全的按照法治体系来运作,那么它就会变成当年的商鞅一般,眼中只有一个法律在,没有任何人情,只看见血淋淋的囚犯死亡,这么做很有可能会使得人类变为人间地狱。



  相信大家应该还记得,我机器人这部电影里面的经典场景,一方面,机器人要保护人类,但是另一方面人类又有自我毁灭倾向,所以机器人最终的决定就是,破除了机器人三大定律将所有的人类关押在自己的房间里面,不允许他们出去,这样也就不会伤害到自身,也不会伤害到地球。



  所以说机器人的发展有着很多的问题,可能就连我们人类所理解的逻辑关系,在他的领域也变得不适用,或许我们未来应该做的事情是和机器人和平共处,站在平等的地位上来交往,而不是奴役他。




  新闻稿件欢迎直接联系:QQ 34004818 、 905653616 微信公众号:cpsjyzb

我要评论

表情 验证码 评论

0 条评论

  • 还没有人评论过,赶快抢沙发吧!