当前位置:物联网世界国际前沿 › 新闻详情

如何防止AI控制人类?研究人员开发“失忆棒”

2017年12月06日  来源:中国智能制造网  发布:物联网世界网采编

  人工智能发展愈发火热,推动着各领域变革不断深入。不过,人们也担心人工智能会带来威胁。为了防止人工智能脱离人类控制,近日有研究人员开发了类似“记忆清除”的新系统。

  据英国《每日邮报》12月5日报道,研究人员通过开发类似“记忆清除”的新系统来防止人工智能(AI)干预人类的控制,以防AI反控人类。

  人工智能机器人可以从自身行为的结果中学习,以提高自己的能力,但专家说,这种特性可能导致AI的学习“无法停止”。现在,AI研究人员开发了一种新系统,他们把它比作电影《黑衣人》里能清除记忆的“失忆棒”,通过删除AI的部分记忆来中断它的学习,而不破坏它的学习方式。

  瑞士洛桑联邦理工学院分布式编程实验室的教授Rachid Guerraoui说,“人工智能将寻求方法避免人类干预,创造一种人类无法阻止的情况。”研究人员称,必须开发新系统,防止AI绕过人类指令。

  Guerraoui说:“我们面临的挑战不是阻止机器人学习,而是把它编程。这样一来,中断不会改变它的学习过程,也不会诱导它去优化自身行为,从而避免AI的学习被阻止。”