人工智能的可塑性_深度学习_免费在线阅读收听下载

各位听众朋友大家好，我是主播欧锋，现在为大家介绍美国科学家特伦斯谢诺夫斯基所著《深度学习——智能时代的核心驱动力量》
人工智能的可塑性

尽管人们在视觉和听觉等认知功能的自动化方面取得了进展,但人工智能还需要在人类智能的许多其他方面取得进步。皮层中的表征学习与基底神经节中的强化学习相辅相成。人工智能学习能把精通围棋的能力运用到解决其他复杂问题上吗?大部分人类学习都是基于观察和模仿,对于学习识別新对象,我们需要的样本比深度学习要少得多。未标记的感官数据非常丰富,强大的无监督学习算法可以在进行任何监督之前使用这些数据学到一些东西。在第7章中,一个无监督版本的玻尔兹曼学习算法被用来初始化深度学习网络。在第6章中,独立分量分析——一种无监督学习算法,能够从自然图像中提取稀疏编码( sparse population codes)。在第9章,生成对抗网络一个无监督的学习系统,可以创建通真的图片。无监督学习是机器学习的下个前沿领域。我们对大脑式计算的理解才刚刚拉开序幕。

大脑的许多学习系统和形式多样的可塑性可以协同工作。仅在大脑皮层内就有几十种可塑性,例如神经元兴奋性和增益的可塑性突触可塑性一个特别重要的形式是稳态( homeostatic),它确保神经元在最佳动态范围内活动。当突触强度降低到零或达到极限时,会发生什么呢?这可能导致神经元永远不会获得足够的输入来达到阈值,或者接收太多的输入并始终保持高水平的活动。吉娜·特里吉亚诺( Gina Turrigiano)在大脑中发現了一种新的突触可塑性形式,它将神经元上的所有突触进行了归一化,以维持神经元活动的平衡。如果平均活动速率过高,所有兴奋性突触强度都会减小;如果速率太低,所有突触强度都会增加。对于抑制性输入,情况则相反,如果活动速率太高,突触强度会增加,速率太低则减小。类似的归一化形式已经被证明能够有效地模拟大脑中神经映射的发展。由随机梯度下降( stochastic gradient descent)驱动的人工神经网络能够从稳态缩放( homeostatic scaling)中受益。

大脑在其神经元细胞膜上具有数十个电压敏感的配体门控离子通道,用以调节兴奋性和信号传导。神经元的树突、体细胞和轴突内部定有某种基于局部活动模式的机制,来动态调节这些通道的位置和密度。有人曾提出过几种算法来实现这些机制。目前,我们对这些稳态形式的理解并没有达到突触稳态可塑性那样的深度。

更多需要被解决的问题

在蒙特利尔举行的2015年NIPS大会的“ Brains, Minds and Machines"(大脑、思维和机器)座谈会,以及2016年巴塞罗那NIPS大会的“ Bits and Brains”"(比特与大脑)研讨会期间,戴米斯・哈萨比斯和我在关于人工智能未来,以及下一个优先研究重点的问题上进行了激烈的辩论。人工智能中还有许多开放的问题需要解决。最重要的就是因果关系问题,它提供了最高层次的人类推理,以及行动的意向性问题,这两者都预示着一种精神理论。我之前提到、我们所创造的深度学习系统都不能依靠自己独立生存。这些系统的自主性只有在它们包含了迄今为止一直被忽视的,类似于大脑其他部分的功能时才有可能实现,例如管理摄食、繁殖、调节激素、稳定内脏的下丘脑,以及帮助我们根据运动预测误差来调整运动的小脑。这些都是在所有脊椎动物中发现的古老结构,对生存起着至关重要的作用。哈瓦西格尔曼( hava Siegelmann是马萨诸塞大学阿断特分校的计算机科学家,她表明模拟计算( analog computing)是超图灵( suner-tuning)、也就是说,拥有能够超越数字计算机的计算能力。可以根据环境进行调整和学习的神经网络也有超图灵计算能力,而普通网络从训练集中学习,然后其结构就被固定下来,在操作时不再从它们的实际经验中学习,这一点和图灵机是一样的。但是,我们的大必须持续适应不断变化的条件,这就使我们具备了超图灵能力。我们如何做到这一点并同时拥有以前的知识和技能,是一个尚未解决的问题。哈瓦是 DARPA终身学习项目的项目经理。她的“终身学习计划”正在资助一些高级研究,这些研究旨在为自治系统中的终身学习创建新的集成架构。

20191128

人工智能的可塑性

人工智能的可塑性

用户评论