您现在的位置是:首页 >社会热点 > 2021-05-01 04:21:39 来源:

阅读Google针对人性化AI的五条规则

导读 谷歌已经提出了五条规则来创造人性化的人工智能 - 取代艾萨克·阿西莫夫的三部机器人法则。这个技术巨头,其DeepMind部门最近设计了一个

谷歌已经提出了五条规则来创造人性化的人工智能 - 取代艾萨克·阿西莫夫的三部机器人法则。这个技术巨头,其DeepMind部门最近设计了一个能够击败世界上最好的围棋玩家的人工智能 - 相信AI创作者应该问自己这五个基本问题, 以避免机器人统治人类的奇点风险。

阅读Google针对人性化AI的五条规则

谷歌研究院的克里斯·奥拉在题为“ 人工智能安全中的具体问题 ”的研究论文中概述了这些问题:“虽然可能的人工智能安全风险已引起公众的广泛关注,但大多数先前的讨论都是非常假设和推测的。

“我们认为,必须在实际机器学习研究中解决问题,并开始开发安全可靠运行的工程AI系统的实用方法。”与OpenAI,斯坦福和伯克利合作出版,本文以清洁机器人为例,概述了以下五条规则。

避免负面影响:确保AI系统在完成任务时不会以负面方式干扰其环境。

避免奖励黑客攻击:有效的人工智能需要在不偷工减料的情况下正确完成任务。

可扩展的监督: AI需要从反馈中学习,不需要人类程序员的持续反馈。

安全探索: AI在执行任务时需要避免破坏环境中的对象。

分布式转变的稳健性:人工智能应该能够适应它最初没有条件的环境,并且仍然可以运行。

在恐惧机器人的背景下,谷歌投入了大量资源用于开发深度学习和人工智能,其中包括SpaceX创始人埃隆马斯克和科学家斯蒂芬霍金等名人。

DeepMind正在开发一种故障安全措施 ,可以在企图违反用户的情况下有效关闭AI。

包括微软在内的其他公司正在探索人工智能,让AI讲述有关假日照片的故事,并推出其聊天机器人Tay,在Twitter上发表了粗鲁的回复。