危险和希望(doc 13页)

第三部 危险和希望
第十一章 毁灭的发动机
可复制组装机和思维机器会对地球上的人类和生物产生根本性威胁。今天的生物的能力离可能的极限还很远，但是我们的机器进化得比我们要快。在几十年内它们很可能就会超过我们。除非我们学会如何安全地和它们共生，否则我们的未来将既是令人激动的又是短暂的。我们不能希望预见所有未来的问题，但是我们可以通过注意最大的，最基本的问题来预见最大的挑战，以便做好准备。
　　整本书毫无疑问都在写即将到来的社会剧变：当组装机和自动工程消除了大部分的国际贸易的需求时，全球秩序将产生怎样的变化？当个人能独立地生存时社会将怎样变化？当可复制组装机可以做任何事而不需要任何人类劳动时我们将做什么？当AI系统可以思考得比人脑还快时我们将怎么做？（在它们做出结论说人类什么也干不了之前，作者们应该想想跑步者会怎样看待汽车，画家怎样看待照相机）
……………………
..............................