【延伸阅读】
“失控”之后的人工智能机器人更加可怕，将对人类文明构成威胁
许多科幻小说中描述了这样一个场景，当人类制造的机器人产生了自我意识，并开始与人类为敌，最终拥有人工智能的机器人几乎摧毁了人类文明。
虽然这只是电影或者小说中的情节，但是计算机科学家和企业家史蒂芬·奥莫亨德罗认为未来人类可能制造出具备反社会性质的人工智能机器。
最近，奥莫亨德罗还发表了一篇文章，提到了关于人工智能的一些理论和实验，勾画出未来机器人世界的基本情况。
事实上，我们所认为的人工智能其实是无限接近人类，具有极强的决定能力，可对周围的态势做出判断并且分析下一步的趋势，这就像无人机的编程那样，通过机载传感器获得周围的环境情况，然后通过复杂的算法控制无人机在空中的动作，自主决定是否空中悬停还是对目标采取行动。
如果在经济学家看来，这就相当于成本与效益之间的问题，可以用效用函数来获得结果，但是人与机器显然是不一样的，因为我们能思考很多东西，并且选择最低风险和成本的途径来实施。
大多数情况下，我们也希望未来机器人可以通过这样的方法来做出决定。
但问题是我们必须将这些算法和逻辑过程体现到计算机程序上，但这样会导致一个很严重的后果，那就是人工智能机器人会严格按照程序所赋予的算法来实现最优的决策，如果这是一台能下国际象棋的机器人，那么它就会想尽办法来赢得比赛，假如这是一台拥有武器的杀手机器人，那么它就会不择手段来达到自己的目的。
那些人工智能机器人会无情地追求自己的目标，从人类的角度看可称之为失控，对于智能机器人而言，它只不过将算法所赋予的能力发挥到极点，而那些失去“理性”的智能机器人很有可能变成人类的杀手，与我们战斗到死。
