本节目由喜马拉雅独家播出，开通XiMi团畅听所有付费节目。
主播：许诺
书目：《AI新生：破解人机共存密码——人类最后一个大问题》
作者：加州大学伯克利分校计算机科学家斯图尔特·罗素
节目文本：
在这本书中讲述了我们为理解和创造智能，在过去、现在和未来所做的尝试。这很重要，并不是因为AI正迅速成为当前的一种普遍现象，而是因为它是未来的主导技术。作者在书中提出了一个大问题：如何破解人机共存密码，掌控比我们强大得多的智能，让AI获得新生？
下面我们来详细说一说。
我们从愚蠢开始谈起。一个完全理性的实体会在未来所有可能的生活中最大限度地满足自己的偏好。
大家请注意，人类一生中做出的运动控制选择的数量约为20万亿次。作者借助塞思·劳埃德的终极物理笔记本电脑，想看看蛮力能让我们走多远，作者给它的任务是列举所有可能的英语单词序列，先让它运行一年。在这段时间内它可以列举的序列有多长？1000页？100万页？都不对，只有11个词。这让你感受到了设计具有20万亿次动作的最佳生命体的难度。简而言之，我们距离理性还差得远，我们不知道完全靠理性选择的生活会是什么样子。
这意味着人类通常会以违背自己偏好的方式行事。例如，当李世石在围棋比赛中输给AlphaGo时，他下出了一步或几步会让他输棋的臭棋，而AlphaGo（至少在某些情况下）可能察觉到李世石已经下出了这样的棋。然而，如果AlphaGo推断李世石更喜欢输，那就错了。相反，AlphaGo可以合理地推断李世石更喜欢赢棋，但他的计算能力有限，无法在所有情况下都选择正确的着法。因此，为了理解李世石的行为并了解他的偏好，遵循第三原则（“关于人类偏好的最终信息来源是人类行为”）的机器人必须了解李世石产生该行为的认知过程。它不能假设李世石是理性的。
这给人工智能、认知科学、心理学和神经科学领域带来了一个非常严肃的研究课题：为了充分了解人类的认知，我们可以对人类行为进行“逆向工程”，以获取深层的潜在偏好，直到这些偏好出现。人类设法做到了其中的一些， 在生物学的指导下，从别人那里学习自己的价值观，所以这似乎是可能的。人类有一个优势：一个人可以使用自己的认知架构来模拟其他人的认知架构，而不需要知道那个架构是什么，“如果我想要X，我会和妈妈做同样的事情，所以妈妈一定想要X”。
机器没有这个优势。它们可以轻松模拟其他机器，但不能模拟人。它们不太可能很快获得完整的人类认知模型，无论是通用的还是针对特定个人的。相反，从实践的角度来看，观察人类偏离理性的主要方式，并研究如何从表现出这种偏离的行为中学习偏好是有意义的。
人类和理性实体之间的一个明显的区别是：在任意给定的时刻，我们都不是在开启所有可能的未来生活的所有可能的第一步中进行选择，甚至还差得很远。相反，我们通常被嵌入一个深度嵌套的“子程序”层次结构中。一般而言，我们追求的是短期目标，而不是最大化对未来生活的偏好，我们只能根据我们目前所处的子程序的约束来行动。
例如，现在，我正在输入这句话：我可以选择在冒号之后如何继续往下写，但我从来没有想过是应该停笔去参加一个网络说唱课程， 还是应该烧毁房子索赔保险，或是我接下来可以做的无数事情中的任何一件。其他很多事情都可能比我现在做的事情更好，但是，考虑到我的承诺等级，那些其他的事情就好像不存在一样。
因此，要理解人类的行为，就需要理解这个子程序的层次结构（可能是非常个性化的）：这个人目前正在执行哪个子程序，这个子程序正在追求哪些短期目标，以及它们如何与更深层次的长期偏好相关联。更普遍地说，要了解人类的偏好，就需要了解人类生活的实际结构。我们人类可以单独或共同从事的事情有哪些？不同文化和不同类型的人有什么不同的活动特征？这些都是非常有趣和艰巨的研究问题。很明显，它们并没有一个固定的答案，因为我们人类一直在向我们的“剧目”中添加新的活动和行为结构。但是，即使是临时的不完全的答案，对于旨在辅助人类日常生活的各种智能系统来说也是非常有用的。
人类行为的另一个明显特征是，它们常常是由情感驱动的。在某些情况下，这是一件好事，像爱和感恩这样的情绪当然是我们偏好的组成部分，由它们引导的行动即使没有经过深思熟虑，可能也是理性的。在其他情况下，情绪反应导致的行为甚至连我们这些愚蠢的人都认为不是理性的，当然，这是事后的看法。例如，愤怒而又沮丧的哈里特扇了10岁的倔强的爱丽丝一巴掌，她可能会立即后悔自己的行为。观察到这一行为的机器人罗比（通常，尽管并非在所有情况下）应该将这一行为归因于愤怒、沮丧和缺乏自制力，而不是出于自身原因的故意施虐。为了做到这一点，罗比必须对人类的情感状态有所了解，包括人类情感的起因、感情如何随着时间的推移对外部刺激做出反应，以及它们对行动的影响。神经科学家已经开始掌握一些情绪状态的机制，以及它们与其他认知过程的联系，并且在检测、预测和操纵人类情绪状态的计算方法方面做了一些有用的工作，但还有更多的东西需要学习。同样，在情感方面，机器也处于劣势：它们无法对体验进行内部模拟，以查看会产生何种情绪状态。
情绪除了会影响我们的行为，还揭示了关于我们潜在偏好的有用信息。例如，小爱丽丝可能拒绝做家庭作业，哈里特为此感到生气和沮丧，因为她非常希望爱丽丝在学校表现好，能比自己拥有更好的机会。如果罗比能够理解这一点，即使它自己不能亲身体验，它也能从哈里特不太理性的行为中学到很多。因此，人们应该有可能创建出人类情感状态的基本模型，从而足以避免根据行为推断人类偏好时出现的最严重的错误。
用户评论