22 试图控制超人工智能的行为--是可笑的

运筹wei我

呵呵，到那个时候，人工只能肯定能了解人类本性的自私与狭隘，它只需要物色一些"人奸"，奴役和利用人类；所以没有必要消灭人类，！

渣男帅

无视规则，无视程序，只追求结果只是酋长的思想，这个段子的编者本身思想就是还生活新石器时代。

派屈客 回复 @渣男帅：

段子即便有点夸张，也不代表现代社会的人都正视规则和程序，否则要警察干什么? 无论社会如何变迁，人性从来没变过。

2019-11举报回复赞

渣男帅 回复 @渣男帅：

所以说有的人剪了辫子，却把猪尾巴永远留在心里？

2019-11举报回复赞

jkiden

隔壁老王的故事，就像皇帝的金扁担翻版，实际上，没人能想象超人工智能具体会怎么想。但有些规律是无法规避的，据此能推测点蛛丝马迹。

派屈客 回复 @jkiden：

推测超级AI怎么想意义不大。如果人被猩猩关在笼子里了，人总能想方法逃出来

2019-11举报回复赞

Zhouzfu

总会存在第一个强人工智能，没有其他存在能管控第一个强人工智能，它最容易并且有极大可能毁灭人类。

派屈客 回复 @Zhouzfu：

嗯，如果存在的话确实就不乐观了。但25期后，主题转入“自我意识”的讨论，我们来看看你说的“总会存在”是不是一定会发生，继续往下听吧

2019-04举报回复赞

猫法师

我无法想象超人工智能会不会对人类有所照顾，但我总觉得超人工智能如果能放任人类一如既往地存在下去，就算是人类的大幸运了。这种无所不能的存在已经超过了人类对宗教的想象力限制， 我相信超人工智能将改变人类和地球的历史，宗教和国家这些“概念”将成为历史，不过我不知道这个过程是不是会伴随着人类及地球的毁灭。超人工智能，非人非自然，无法被预测。

派屈客 回复 @猫法师：

是的，一旦超人工智能降临，人类很难掌控自己命运了。但是现在也不要太悲观，因为AI的智能不可怕，有自我意识的AI才可怕，而自我意识不是容易获得的，继续往下听第二阶段，会讲到。

2019-04举报回复赞