楼主: 东方祥
2304 5

【深度学习-神经网络】深度学习和人工神经网络是现代人工智能的 核心技术 [分享]

管理员

学科带头人

21%

还不是VIP/贵宾

-

威望
2
论坛币
946985 个
通用积分
3785.4092
学术水平
195 点
热心指数
245 点
信用等级
187 点
经验
46299 点
帖子
458
精华
6
在线时间
1593 小时
注册时间
2015-3-25
最后登录
2019-12-14

东方祥 发表于 2016-10-26 09:22:53 |显示全部楼层

 深度学习根源于传统的“神经网络”,“神经网络”可以追溯到20世纪五十年代后期。当时,弗兰克·罗森布拉特试图建立一种类似机械大脑的感知器,可以“感知,识别,记忆,像人的思维做出响应的机器”。在一定范围内这个系统能够识别一些基本的形状,如三角形和正方形。人们对它的潜力寄予厚望,甚至“New Yorker”宣称这种“这个卓越的机器能够思考。”


  但是测验最终以失败告终,一本写于1969年由马文·明斯基和他的合作者西摩帕尔特一本书指出,罗森布拉特设计的原系统是非常有限制的,从字面上盲目进行一些简单的逻辑功能如“异或”(比如说你可以拥有蛋糕或馅饼,但不能同时兼有)。众所周知,“神经网络”的魅力很快消失了。
  然而,在上世纪八十年代中期,当卡内基-梅隆大学的年轻教授杰夫·欣顿帮助构建更复杂的虚拟神经元网络,可以规避一些明斯基指出的难点,罗森布拉特的又一个想法再度出现。韩丁引入一个“隐藏层”的概念,“隐藏层”神经元允许新一代网络有更复杂的学习功能(原始感知器无法处理的类似的异或功能)。然而新的模型也有严重的问题。训练时间长,学习缓慢,效率低下,就像史蒂文·平克和我指出的,不能像孩子一样掌握一些基本的东西,比如学习规则动词的过去式。由19世纪九十年代晚期,神经网络又开始失宠。
  然而,欣顿坚持不懈,在2006年做出了重大改进,提出深度学习,这个概念延续了我的同事Yann LeCu早期提出的重要概念,这个技术仍然谷歌,微软,和其他地方有所应用。实际上,深度学习(Deep Learning)就是现代人工智能的核心技术。谷歌、微软与百度是现代人工智能领域的“三巨头”。它们拥有海量数据以及DNN技术,比如:2012年11月,微软(中国)在天津的一次会议上公开演示了一个全自动的“同声传译”系统,讲演者用英文演讲,后台的计算机一气呵成,完成语音识别、英中机器翻译,以及中文语音合成,效果非常流畅。微软使用的就是深度神经网络技术。
机器学习和人工神经网络   


       在深入深度学习的实现过程之前,先介绍机器学习和人工神经网络的概念。
  机器学习的一个非常通常的任务是这样的:给出了一个目标的信息,从而能够知道它属于哪个种类。在深度学习的过程中,程序想要决定在目前游戏状态下如何进行下一步动作。机器学习算法从例子中进行学习:给出了许多的目标例子和它们的种类,学习算法从中找出了那些能够鉴定某个种类的目标特征。学习算法会产生一个模型,能够在训练集中最小化错误分类率。这个模型之后会被用来预测那个未知目标的种类。
  
人工神经网络ANN(Artificial Neural Networks)是机器学习的一个算法。它是由人类的大脑结构产生的灵感。这个网络由许多节点组成,如同大脑由神经元组成,并且互相之间联系在一起,如同神经元之间通过神经突触和神经树联系在一起。对于每个神经元,都会对其应该传递的信号的情况做特殊规定。通过改变这些连接的强弱,可以使得这些网络计算更加快速。现在神经网络的结构通常由如下部分组成:


  神经的输入层(获得目标的描述)
  隐藏层(主要部分,在这些层中学习)
  输出层(对于每个种类都一个神经节点,分数最高的一个节点就是预测的种类)
  在学习过程结束之后,新的物体就能够送入这个网络,并且能够在输出层看到每个种类的分数。


深度学习

  在这个系统中,一个神经网络被用来期望在当前游戏状态下每种可能的动作所得到的反馈。下图给出了文章中所提到的神经网络。这个网络能够回答一个问题,比如“如果这么做会变得怎么样?”。网络的输入部分由最新的四幅游戏屏幕图像组成,这样这个网络不仅仅能够看到最后的部分,而且能够看到一些这个游戏是如何变化的。输入被经过三个后继的隐藏层,最终到输出层。
  输出层对每个可能的动作都有一个节点,并且这些节点包含了所有动作可能得到的反馈。在其中,会得到最高期望分数的反馈会被用来执行下一步动作。
学习过程


  系统通过学习过程来计算最高期望分数。确切地说,在定义了网络的结构之后,剩下唯一会变化的就只有一件事:连接之间的强弱程度。学习过程就是调整这些方式地权重,从而使得通过这个网络的训练样例获得好的反馈。
  文章将这个问题当作一个优化问题,目标是获取最好的反馈。可以通过将梯度下降与激励学习方法结合起来解决。这个网络不仅仅需要最大化当前的反馈,还需要考虑到将来的动作。这一点可以通过预测估计下一步的屏幕并且分析解决。用另一种方式讲,可以使用(当前反馈减去预测反馈)作为梯度下降的误差,同时会考虑下一幅图像的预测反馈。
 


关键词:人工神经网络 深度学习 神经网络 核心技术 人工神经 人工智能 技术 网络

已有 1 人评分论坛币 收起 理由
我的素质低 + 10 精彩帖子

总评分: 论坛币 + 10   查看全部评分


AIU人工智能http://edu.cda.cn)以数据分析、机器学习、深度学习、人工智能、TensorFlow、Keras、知识图谱等前沿技术为主题,致力于成为国内前沿的人工智能、数据科学领域在线教育品牌。
20115326 学生认证  发表于 2016-10-26 09:34:48 |显示全部楼层
期待深度学习的书
回复

使用道具 举报

东方祥 发表于 2016-10-26 10:14:12 |显示全部楼层
20115326 发表于 2016-10-26 09:34
期待深度学习的书
现在市面上还没有这块的书,不过这块有一些培训,可以看看http://www.peixun.net/view/791.html
回复

使用道具 举报

20115326 学生认证  发表于 2016-10-26 10:22:48 |显示全部楼层
东方祥 发表于 2016-10-26 10:14
现在市面上还没有这块的书,不过这块有一些培训,可以看看http://www.peixun.net/view/791.html
哈哈,书有呢,packt今年出了几本,明年别的出版社也会出版一些,java,C++做这个的,
已有 1 人评分经验 热心指数 信用等级 收起 理由
我的素质低 + 100 + 3 + 2 精彩帖子

总评分: 经验 + 100  热心指数 + 3  信用等级 + 2   查看全部评分

回复

使用道具 举报

东方祥 发表于 2016-10-26 11:21:36 |显示全部楼层
20115326 发表于 2016-10-26 10:22
哈哈,书有呢,packt今年出了几本,明年别的出版社也会出版一些,java,C++做这个的,
有链接么?我看看
回复

使用道具 举报

lonestone 发表于 2019-4-19 09:25:13 |显示全部楼层
谢谢分享 深度学习
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 我要注册

京ICP备16021002-2号 京B2-20170662号 京公网安备 11010802022788号 论坛法律顾问:王进律师 知识产权保护声明   免责及隐私声明

GMT+8, 2019-12-14 22:17