办事指南

如果机器人缺乏信心,机器人将更有用

点击量:   时间:2017-05-16 09:10:02

Jason Lee /路透社作者:Matt Reynolds对自己的能力充满信心通常是件好事 - 只要你能认出什么时候需要帮助在我们构建更智能的软件时,我们可能希望将相同的思想应用于机器探索机器人自身实用性的实验可以帮助指导未来人工智能的构建方式加州大学伯克利分校的Dylan Hadfield-Menell表示,过度自信的人工智能会引发各种各样的问题以Facebook的新闻源算法为例这些旨在建议人们想要查看和分享的文章和帖子然而,通过毫无疑问地遵循这个职权范围,他们最终用虚假新闻填补了一些人的信息对于Hadfield-Menell和他的同事们来说,答案是让AIs寻求并接受人类监督 “如果Facebook有这种想法,我们可能不会对假新闻产生这样的问题,”他说而不是推动它认为Facebook用户想要看到的每篇文章,一种更不确定其能力的算法将更有可能推迟人类更好的判断伯克利团队设计了一个人类和机器人之间相互作用的数学模型,称为“开关游戏”,以探索计算机“自信”的概念在这个理论游戏中,带有关闭开关的机器人可以完成任务然后人类可以随时按下机器人的关闭开关,但机器人可以选择禁用其开关,以便人员无法将其关闭机器人给予高度“信心”他们正在做的事情是有用的永远不会让人关闭它,因为他们试图最大化完成任务所花费的时间相比之下,一个低信度的机器人总是会让人关掉它,即使它做得很好然而哈德菲尔德 - 梅内尔认为我们不应该让人工智能太不安全例如,如果一辆自动驾驶汽车正在驾驶一个小孩上学,那么汽车绝不应该让孩子控制住在这种情况下,AI应该确信自己的能力超过孩子,无论情况如何,并且拒绝让孩子将其关闭 Hadfield-Menell说,最安全的机器人将在两个极端之间取得平衡牛津大学的Marta Kwiatkowska表示,那些拒绝让人们关闭它们的认可机构可能听起来很牵强,但这些因素应该对任何人制造与人类一起工作的机器人至关重要她说,无人驾驶汽车和机器人消防员等机器将被要求做出有关人身安全的决定,因此,这些决策的道德框架必须尽快落实到位 Hadfield-Menell说,开关后的比赛只是一个开始他计划在机器人获得有关其自身实用性的更多信息时,探索机器人决策的变化例如,咖啡制作机器人可能会认为它的任务在早上更有用最终,他希望他的研究能够让AI变得更具可预测性,并做出更易于人类理解的决策 “如果你把一个机器人送到现实世界,你想要很好地了解它正在做什么,”他说参考:arxiv.org/abs/1611.08219v2了解更多:让您的汽车有良心:为什么无人驾驶汽车需要道德更多关于这些主题: