军事机器人程序变异或毁灭世界
毫无疑问,未来战争中,自动机器人士兵将成为作战的绝对主力。美国海军研究室在关于机器人士兵的研究报告《自动机器人的危险、道德以及设计》中,对军方使用机器人提出警告,建议为军事机器人提前进行严格的设计和使用“紧箍咒”,否则整个世界都有可能毁于他们的钢铁之手。
报告指出,现今美国的军事机器人设计师往往急于求成,常常会将还不成熟的机器人技术急匆匆推入市场,促使人工智能的进步在不受控制的领域内不断加速发展。更糟糕的是,目前还没有一套控制自动系统出错的有效措施。如果机器人设计出现错误,足以让全人类付出生命的代价。