支持单位: 全国警用装备标准化技术委员会 , 公安部安全与警用电子产品质量检测中心 , 公安部特种警用装备质量监督检验中心 , 国家安全防范报警系统产品质量监督检验中心
jiangbei
历届评选

美科学家研制会骗人的机器人

2010-09-14 10:09:35  来源 : 新浪科技


    美国佐治亚州理工学院研究人员进行的一项实验据信是世界上第一项有关机器人“骗术”的详细测试。这支研究小组创建的算法能够让机器人决定是否欺骗人类或者另一个机器人,同时还能让机器人找到在最大程度上让自己不被发现的策略。


    这项“进步”可能让一些原本就对机器人持不信任态度的人更为担忧,在他们看来,机器人在实际生活和工作中可能也会变成骗子,与人类公事时无法保 证安全性。但研究人员表示,具有欺骗能力的机器人拥有很大的未来发展前景,尤其是在军事领域。在战场上,成功将自己隐藏并误导敌人的这种欺骗能力能够确保 自身以及重要信息的安全性。


    研究论文联合执笔人、佐治亚州技术研究院研究工程师艾伦·瓦格纳表示:“绝大多数社交机器人将极少使用欺骗手段,但在机器人的互动‘军火库’ 中,这仍旧是一个重要工具,原因就在于认识到有欺骗必要的机器人与其他机器人相比拥有优势,这种优势就体现在结果上。”此外,搜救机器人可能也需要欺骗人 类,以便让搜救对象平静下来或者取得恐慌的被搜救者的合作。研究发现刊登在《国际社交机器人技术杂志》上。


    为了让机器人懂得将自己隐藏起来以躲避其他同类,佐治亚州理工学院的研究人员开发了一系列程序,最终让机器人成功上演欺骗行为。首先,他们教会 骗人机器人如何辨别眼前的形势以决定是否采用欺骗手段。瓦格纳和同事罗纳德·艾金利用相互依存理论和博弈论开发算法,以测试特殊情况下实施骗术的价值。


    允许实施骗术的情形必须满足两大条件:首先,骗人机器人与搜索者之间必须存在冲突。其次,骗人机器人必须能够从欺骗行为中获益。一旦确定眼前形 势可以实施骗术,机器人便会制造出一个假的运动轨迹进行欺骗。令人感到吃惊的是,骗人机器人甚至能够根据对它们设法欺骗的机器人的了解程度,调整自己的骗 术以达到最佳欺骗效果。


    为了测试他们的算法,研究人员在两个自治机器人之间进行了20次“捉迷藏”实验。他们在通向机器人躲藏位置的3条潜在线路上放置彩色直立标记。 躲藏机器人随机从3个躲藏位置中挑选一个并且移动到这个位置,沿途撞倒彩色标记。一旦穿过一个标记,机器人便会改变线路并躲藏在另外两个位置中的一个。直 立标记的存在与否暗示搜索机器人躲藏机器人的位置。


    瓦格纳解释说:“躲藏机器人通过撞倒标记制造假的移动轨迹,进而将搜索机器人引向假躲藏位置。例如,从标记的指示来看,它去了右边,而实际上却 去了左边。”在“捉迷藏”实验中,躲藏机器人成功骗到搜索机器人的概率高达75%,在失败的实验中,躲藏机器人因未能撞倒为骗过搜索机器人而必须撞倒的标 记,最终被后者逮到。


    瓦格纳说:“虽然并不完美,但实验结果仍旧证明机器人能够在嘈杂环境下学会并利用骗术。这些结果初步表明论文中描述的技术与算法能够让机器人成功实施欺骗。”研究人员表示,他们也意识到教会机器人如何欺骗同类和人类将引发“伦理问题”。


    科幻影片中的骗人机器人


    最着名的骗人机器人可能当属《2001太空漫游》中的Hal。这部影片改编自亚瑟·克拉克的畅销科幻小说,故事围绕一艘由高智能电脑Hal操控 的太空飞船上的船员展开。由于Hal出现故障,船员们试图将其关闭。随后,陷入故障的Hal开始杀害船员并控制整艘飞船。由于幸存的船员成功将其关 闭,Hal最终放下屠刀。随着逐渐丧失“意识”,Hal将有关他们神秘任务的真相告诉了船员。


    《机械公敌》是另一部有关机器人造反的影片,改编自艾萨克·阿西莫夫的短篇小说集。片中,一个机器人首次有了“自我意识”并造成灾难性后果。(秋凌)
 


佐治亚州理工学院摄政董事教授艾金(左)和研究工程师瓦格纳(右)旁观两个机器人的“躲猫猫”实验。黑色机器人成功骗倒红色机器人,误认为自己藏在左手侧,而实际上,它却躲藏在右手侧。


  新闻稿件欢迎直接联系:QQ 34004818 微信公众号:cpsjyzb

我要评论

表情 验证码 评论

0 条评论

  • 还没有人评论过,赶快抢沙发吧!