纵观人类历史，从石器时代到电气时代，人类走了十万年，从电气时代到今日数字时代高峰，还不到二百年。近半个世纪来，奠定数字时代基础的集成电路元器件数量每12个月就翻一番，性能提升一倍。21世纪，仅仅几年时间，移动网络、大数据就统治了世界，人工智能已开始侵蚀人类的地位。

科学技术对人类社会的巨大推动作用是显而易见的。特别是到了现代，科学技术更是被看做第一生产力，成为促进社会发展的最主要推动力量。在我们关注科技带来的方便，促进人类社会发展进步作用的同时，不能忽略它可能给我们带来巨大的甚至是毁灭性的危害。

电动汽车公司特斯拉、商业太空飞行公司SpaceX首席执行官埃隆·马斯克（Elon Musk）不是人工智能的坚定拥护者，相反他称后者为“人类生存的最大威胁。”

他曾在麻省理工学院航空与航天学院百年研讨会时表示：“如果让我猜人类最大生存威胁，我认为可能是人工智能。因此我们需要对人工智能保持万分警惕，研究人工智能如同在召唤恶魔。”

麻省理工学院物理学家马克思·泰格马克曾这样比喻人工智能：

“不久以前，机器人甚者连走都不会，现在已经可以后空翻了。不久以前，自动驾驶汽车尚未出现，但现在我们已经有可以自己飞回来的火箭了。不久以前，人工智能做不到人脸识别，现在它已经生成虚拟面容……”

在科幻小说或电影中，人工智能经常让人类陷入噩梦中。比如《2001》、《终结者》、《银翼杀手》等电影中，智能电脑或智能机器最终将武器对准它们的人类创造者。

一旦人工智能全面超越人类，它或许不会对造物主感恩戴德，一个心冷如铁又无所不能的存在，凭什么对一群只是因为天气恶劣就不想起床上班的生物怀有特别的感情？

套用人类学家胡家奇的话，“人工智能已经具备深度学习的能力，已经达到相当高的层级。”“智能机器人的自我意识觉醒之日，就是一切人类制定的规则被颠覆之时。”“自然界，从来就是高智商的物种鄙视低智商的物种，甚至把低智商的物种进行烹炸煮烤，当成食物或者当成玩偶。当智能机器人超过人类的那一刻起，人类也就完蛋了。”

影片《超体》就充分展示了人工智能一旦具有学习能力之后，它的潜能发挥和迅速进化可以达到什么程度。人工智能专家经常安慰我们说：人工智能还很弱小，你们担心的事情离现在还很远。但是知识增长是呈指数级的，从弱人工智能到强人工智能，到底要多少年？

在这个日益个性至上的社会，如果科学家以一已私利支配个人的行动，后果时常是灾难性的；甚至不论动机，任何疏忽也可能带来灭顶之灾。不论科技向恶还是向善，警惕人工智能，比无条件地拥抱人工智能更合情合理。