京财时报

谁能让机器人变得更好?1942年阿西莫夫已经给出答案

来源:新浪财经                  发布时间:2017-12-04

 谁能够让机器人变得更好,让机器人能够作出人类值得人类信任决定,我们如何学会与人工智能一起生活

你可能会担心吃药产生的副作用,然后决定不再吃药了。根据药物说明,机器人知道这将危害你的健康,但它可以尊重你的愿望等待事态的发展或者坚持让你吃药并强调你正处在危险情况,还有在你不知情的情况下把药物藏到你的食物或饮料中。

那么在这种情况下是什么成就了一个“好”的机器人呢?这一切都取决于编程和算法。

这可不是一个学术演习。因为机器人技术正在进入我们的生活,进入我们的家庭。在工作中,机器人成为我们的运输工具并且会越来越普遍。全球的技术公司看到了巨大的市场和可以负担得起的大规模生产护理机器人的潜力,他们可以帮助解决一些社会和技术问题,例如可以为老年人提供护理和帮助;机器人会为在职父母提供更便宜的托儿服务;在驾驶车辆和执行复杂的外科手术等情况下,他们可以消除由人为因素引起的风险;他们可以避免因战争和冲突局势中冒着生命危险; 家用和无人驾驶汽车的语音助手功能的趋势也只是一个开始。

谁能够让机器人变得更好,让机器人能够作出人类值得人类信任的决定,我们如何学会与人工智能一起生活?目前,机器人由AI科学家,工程师,制造商掌握设计和运作。

英国在机器人的道德领域处于领先地位。去年,英国标准学会(British Standards Institute)发布了机器人伦理学的第一个标准(BS 8611)。这一举动已经引起许多其他国家的关注,全球共同立场中已经意识到机器人在人类日常生活中的重要作用。

但是,这是不够的。从这个早期阶段,我们需要考虑到广大市民的意见和并考虑到人类的感受。有多少人愿意让机器人进入我们的生活?什么样的角色能够让我们感到舒适?我们都能认同什么样的价值观和行为标准?

作为BSI英国机器人伦理小组工作的一部分,克兰菲尔德大学希望收集公众的想法和观点。调查结果将被用来为开发商和制造商制定未来的标准。

对于使用机器人做为某些角色所带来的所有好处,不可避免地要抵制非人类“助手”的批量生产。令人毛骨悚然的机器人,被过度复杂的逻辑和深度学习纠缠在一起,已成为过去70年来科幻小说中的经典特征。在某种程度上,我们已经学会了坦然承认我们对机器人的恐惧。另一方面,过去十多年来的另一个发展是我们对技术的情感依赖。研究表明,我们已经成为个人数字设备的高度保护者。智能手机已经成为我们上网,人际关系,日常意识和互动的核心。没有他们,我们就会感到身体上的失落感。而且,随着机器人变得越来越普遍,人工智能在展示个性方面会变得更加复杂并提升到一个新的水平。

尽管意识到自主技术的潜在危险是很重要的,但也不能因此而对自己的技术感到自满或不屑一顾,我们需要为未来找到一个平衡的位置。到目前为止,科幻小说为机器人伦理学提供了最清晰的基础。

阿西莫夫的《我,机器人》,在1950年末由格诺姆出版社出版。阿西莫夫为这本书新写了《引言》,而《引言》的小标题就是《机器人学的三大法则》,把“机器人学三大法则”放在了最突出、最醒目的地位。

而三大法则之间的互相约束,为后世的创作有一定的指导意义。

第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管

第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外

第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存

“机器人三定律”在他于1942年发表的作品Runaround(《转圈圈》,《我,机械人》中的一个短篇)中第一次明确提出,并且成为他的很多小说,包含基地系列小说中机器人的行为准则和故事发展的线索。机器人被设计为遵守这些准则,违反准则会导致机器人受到不可恢复的心理损坏。但是在某些场合,这样的损坏是不可避免的。在两个人互相造成伤害时,机器人不能任人受到伤害而无所作为,但是这会造成对另一个人的伤害,在一些小说中这造成了机器人的自毁。

【免责声明】 凡本站未注明来源为本站的所有作品,均转载、编译或摘编自其它媒体,转载、编译或摘编的目的在于传递更多信息,并不代表本站赞同其观点和对其真实性负责。其他媒体、网站或个人转载使用时必须保留本站注明的文章来源,并自负法律责任。 如您不希望作品出现在本站,可联系我们要求撤下您的作品。邮箱:247834384@qq.com

热文推荐

首页 | 新闻 | 财经 | 房产 | 娱乐 | 旅游 | 时尚 | 生活 | 科技 | 健康 | 汽车 | 教育 | 今日北京 | 电子报

Copyright © 2008-2016 备案号:京ICP备09109218号 网络视听许可证:1908457号 增值电信业务经营许可证:京-20080118
关于同意京财时报设立互联网站并提供新闻信息服务的批复

友情链接: 农伯资讯   时尚周刊   京晨晚报   投资观察界   新讯网   西北商报网   万亿财富网   中国投资界   中文科技资讯   电商汇   新尧网