以软件为基础的智能系统可能很快就会从低于人类的水平发展出令人畏惧的能力。如果出现这一跨越的话，智能系统和智能系统以外的世界将在潜在能力上出现巨大差距。如果设定了恶意目标的话，这显然有可能引发灾难。
4.纳米技术
纳米技术本身并不危险。但问题在于，与生物技术一样，随着能力不断增强，技术被滥用的可能性也会增加，而这很难加以防御。
最明显的风险是，如今看来，原子级精确制造技术是快速、低成本制造武器等产品的理想方式。
5.不得而知的未知数
最令人不安的一种可能性是，现在有一种非常致命的东西，人们对此却一无所知。
不管这是种什么样的威胁，它都是几乎无法避免的，即便你知道它是存在的。
