【精品文章】-七十多年了-智能机器人三定律是不是该改改了？.docxVIP

张小只智能机械工业网

七十多年了，智能智能机器人三定律是不是该改改了？

在纽约时报的一篇评论文章中，在去年的TED演讲中，作家、Allen人工智能研

究所CEOOrenEtzioni博士建议应该对阿西莫夫的智能智能机器人三定律进行更新。

鉴于ElonMusk（和其他人）的警告引起广泛的媒体关注，这些更新可能值得业界思

考。关于人工智能的警告

?上个月，马斯克等来自26个国家的人工智能专家共同致信联合国，要求禁止开发和

使用自主武器。除了马斯克之后，签署公开信的还包括DeepMind联合创始人Mustaga

Suleyman以及其他100多位智能智能机器人及人工智能公司的高管。他们写道，人工

智能技术已经足够发达，未来数年内自主武器就可能出现在战场上，国防工业的诸多

专业人士表示，在继火药和核武器之后，自主武器将引发第三次战争革命。美国之音

最近播出了另一个更大的政治警告：俄罗斯总统普京在对一群俄罗斯学生演讲时，称

“人工智能不仅是俄罗斯的未来，也是整个人类的未来，谁成为这个领域的领导者，他

也将成为世界的统治者。机遇和威胁巨大，但现在难以预测。”阿西莫夫的智能智能机

器人三定律

?1942年，阿西莫夫在短篇小说“Runaround（环舞）”中提出了智能智能机器人三定

律：智能智能机器人不得伤害人类，或因不作为使人类受到伤害；除非违背第一定

律，智能智能机器人必须服从人类的命令；除非违背第一及第二定律，智能智能机器

人必须保护自己。后来，阿西莫夫加入了一条新定律：第零定律，智能智能机器人不

得伤害人类整体，或因不作为使人类整体受到伤害。Etzioni的更新规则

?在《纽约时报》的评论文章中，Etzioni提出了对阿西莫夫智能智能机器人三定律的

修改建议：1.人工智能系统必须遵守适用于其操作人员的所有法律条文；2.人工智能系

统必须明确表示它不是人类；3.未经信息来源明确许可，人工智能系统不能保留或披露

机密信息。Etzioni提供的这些更新开始了一场讨论，并引起联合国发布了一本非科幻

张小只机械知识库

张小只智能机械工业网

的智能智能机器人手册，比2058年的科幻时代更早。这是一个可以规范而不是阻挠已

经在发展的全球AI业务。而且是不断成长！我国的人工智能战略规划

?我国最近发布了关于人工智能的长期发展目标《新一代人工智能发展规划》。根据规

划，到2020年人工智能产业的规模将到达220亿美元，2025年达到590亿美元，2030

年达到1500亿美元。到2020年，人工智能总体技术和应用与世界先进水平同步，人

工智能产业成为新的重要经济增长点，人工智能技术应用成为改善民生的新途径；到

2025年，人工智能基础理论实现重大突破，部分技术与应用达到世界领先水平，人工

智能成为我国产业升级和经济转型的主要动力，智能社会建设取得积极进展；到2030

年，人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新

中心。我国也为智能智能机器人产业做了类似的长期战略发展规划，把它当成是国家

战略产业，意在实现从我国制造到我国智造的转型。随着这一重大长期战略规划的推

进，我国希望加快培育壮大人工智能等新兴产业，与谷歌、苹果、亚马逊、IBM以及

微软等巨头同台竞争。我国不希望在任何一个重要技术领域里落后，从电子商务到无

人驾驶汽车到能源以及消费类产品。我国意在通过解决高端电脑芯片缺失、软件编写

软件以及培训人员等问题赶超世界先进水平。为时尚早？是时候了

?AI和智能智能机器人产业的许多人都认为，AI目前的发展状况，包括机器学习和深

度学习方法的改进，是原始的，几十年远离独立思考。Siri和Alexa尽管很有趣，很有

能力，但仍然由人类编程，甚至无法发起谈话或真正理解谈话的内容。然而，人们有

理由表示，当人工智能决定什么是最适合我们的时候，人们会意识到未来可能会有什

么可能的。因此，全球监管不会受到伤害。（本文作者FrankTobe，来源于

[robohub](robohub/isaac-asimovs-3-laws-of-ai-updated/)）tips:感谢大家的阅读，本文由我

司收集整编。仅供参阅！

张小只机械知识库