尽管这样的前景很诱人，但人类在研究人工智能带来的好处时，必须努力避免其可能引致的风险。
例如，从短期来说，人工智能可能导致数百万人失业。而从长期来说，一旦人工智能的智力超过了人类，它们就可能产生反抗，不按程序设定行事。“我们的人工智能系统必须严格按照我们的想法行动。”公开信中写道。
去年十一月，特斯拉创始人埃隆·马斯克提出警告，人工智能机器可能在短短五年之内就会引发“一些非常危险的事件“。
而史蒂芬·霍金今年年初也表示，人工智能的诞生“可能是人类历史上最重大的事件，但不幸的是，也可能是最后一件”。
去年十一月，特斯拉创始人埃隆·马斯克提出警告，人工智能机器可能在短短五年之内就会引发“一些非常危险的事件“。
他此前曾将能独立思考的自动化机器比作“召唤魔鬼”。去年十月，在于麻省理工学院发表的讲话中，马斯克将人工智能描述为“我们潜在的最大威胁”。
”我认为我们应当谨慎对待人工智能“
他表示：“我认为我们应当谨慎对待人工智能。如果让我猜测人类的最大威胁是什么，我认为可能就是人工智能。所以我们必须小心处理。”
“我们应当建立一些监管机制，可以是国家级的，也可以是世界级的，来保证人类不会干出什么傻事。”“使用人工智能，就像是在召唤魔鬼。你们听过那些自以为是、自认为可以控制魔鬼的童话故事吧？千万别玩过头了。”
