《协同进化》：ChatGPT终极威胁猜想，人类与机器的和谐共处之道

ChatGPT终极威胁猜想，人类与机器的和谐共处之道。

点击直达喜马讲书新专辑《热点讲书》>>>

精华笔记 

本书作者爱德华·阿什福德·李，是一位知名的计算机科学家，他认为机器作为一种生命形式，其与人类之间存在着协同进化的关系。

一、为什么机器可以看作是一种生命

“机器是一种生命”这一观点可以从机器个体、机器与机器之间，机器整体三个层面有所体现。

在个体层面，机器与人类有很多相似之处。以手机为例。手机会对外界刺激做出反应；手机需要电力供给维持运行；手机也会生病，甚至死亡。

生命的重要特点是可以繁殖，这在机器与机器之间的关系上有所体现。你可能将自己的手机型号推荐给朋友们，如果有人跟着买了这一款，对于手机这个“种群”来说，相当于进行了繁衍。还有很多机器是按照“有性繁殖”模式发展的。比如，新软件的诞生并不是从零开始写代码，而是从以前软件中参考借鉴。不同的代码互相结合，就像动物繁殖中的DNA交换一样。

如果把机器整体看作一类生命形式，那它们已经发展得十分繁荣了。有些机器可以类比为单细胞生物，比如石英表；有的机器则是体型庞大的多细胞生物，比如超级计算机。它们共同组成了机器生命王国。

二、人与机器是如何协同进化

人与机器的协同进化体现在“机器本身的进化”以及“人与机器相互促进”这两个方面。

作为协同进化重要一环，机器本身正在快速进化，其关键在于反馈机制。近年来人工智能领域取得重大突破，是因为神经网络等算法中引入了反馈机制。

机器要想实现更高层次的智能，还要学会与人类交互。所谓“交互”，是双方互动的过程，是一种更高级别的反馈。比如，在训练飞机自动驾驶系统中，可以让人类飞行员调整对系统下放控制权的程度。自动驾驶系统的目标是让放权值尽可能的大。为此，系统要不断地优化参数，让自身尽可能持续控制飞机，从而改善训练结果。

机器在进化的同时，它们也在与人类形成共生关系，并完成协同进化。

人类与机器的“共生关系”，如同奶牛和微生物。如果失去了微生物，奶牛就会死亡。同样，如果全世界机器突然消失了，人类也会面临灭顶之灾。在共生关系的基础上，人与机器相互促进。我们将自己的信息交给算法，让人工智能提升对我们自己的了解；同时，我们自身能更快速找到感兴趣的内容。

三、人与机器协同进化所带来的问题与应对之策

人与机器的协同进化会很多问题，比如著作权归属、责任划分以及隐私保护等。

当机器帮助人类从事脑力劳动，就可能会出现著作权的问题。使用AI生成内容的技术在快速发展，那么这些产生出来的内容，该属于谁呢？是属于算法的开发者，还是利用算法画图的艺术家，亦或者是提供训练数据的人？当前的法律还没法对这一问题给出解答。

在涉及到生命安全等更严肃的领域，会存在机器与人如何划分责任的问题。如果使用自动驾驶的车辆造成了伤亡事故，那么该是谁来承担责罚？不同智慧级别的自动驾驶汽车，将要承担不同的责任。但是，当机器的运行方式复杂起来之后，我们不容易进行对责任进行明确划分。

人类与机器的密切相处中，“隐私”也是备受关注的话题。世界多国出台了隐私保护法，来限制互联网公司随意收集用户数据。但是，这些保护法的效果并不理想。从协同进化的角度看，即便用户明知个人数据会被滥用，但他们也愿意用隐私来换取能高效运行的程序。

要为这些问题寻找解决方案，我们既要理解机器本身，也要理解其背后的社会与文化因素。

为了应对越来越智能的机器，需要理解它们的运行规则。比如，美国国防部专门启动了名为“可解释人工智能”的项目。遗憾的是，目前我们对复杂算法的理解是极其有限的。很多学者会建议，在没能打开AI的“黑箱”之前，应该尽量减缓AI的进化速度。

除了理解技术本身，我们还应该去了解技术背后的社会与文化内涵，这样才能帮我们构建起与机器和谐共存的规则与规范。比如，现在对年轻人进行教育，不仅应该只教他们如何写程序代码，还应该向他们介绍编程语言发展中所诞生的开源协作精神。此外，可以用年轻人常用的微信、微博这些工具为例，向他们说明隐私的概念，从而提升他们对相关问题的认知。

对于“人类会不会被机器所取代”的问题，作者认为不必杞人忧天。从协同进化的角度来看，并不是只有最聪明的物种才能生存。人与机器，这两种不同的生命形式是可以和谐共处的。

书名：《协同进化》

作者：爱德华·阿什福德·李

撰稿人：圆的方块（理工科博士，科普作家）

编辑：阿柑

主播：晟焕

制作：匀绮工作室

监制&运营：郑涵 王雨

总编辑：赵雅楠