深度学习和社交分析应用课件.pptx
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《深度学习和社交分析应用课件.pptx》由用户(晟晟文业)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 深度 学习 社交 分析 应用 课件
- 资源描述:
-
1、认知计算与深度学习基 于 物 联 网 云 平 台 的 智 能 应 用 深度学习和社交分析应用目录CONTENT1深度学习系统和社交媒体行业2使用ANN和CNN算法的文本和图像识别3深度增强学习的应用4社交媒体应用程序的数据分析5本章小结深度学习系统和社交媒体行业机器学习(ML)和深度学习(DL)相关的软件库和平台是由工业界和学术界为其研发相关应用程序开发的。正如前面章节所学习到的那样,深度学习是机器学习方法的更广泛的一部分。不同之处在于对数据不同的学习方式。例如:X射线图像的检查以多种方式表示,例如矢量,矩阵或张量。这些便是受到神经科学进步的启发。深度学习系统和社交媒体行业我们已经对机器学习算
2、法和深度学习算法有了一定了解.。深度学习作为机器学习的一个分支。在大量训练数据“喂养”模型来达到最优效果的情况下,云提供了有效的资源来完成实时的学习。表9-1 从平台、接口、性能、建模能力等方面对五个当今较为流行的深度学习软件库进行了比较,其中建模能力是评估软件库在深度学习应用中的实用性的关键指标。1.深度学习系统和软件支持深度学习系统和社交媒体行业2.增强学习原则 增强学习的学习目标是在深度学习过程中实现最大的奖励。增强学习是无监督机器学习的子类,因为增强学习中给定的数据没有标签。增强学习被认为是人工智能的通用框架。在数学上,其学习环境被认为是马尔可夫决策过程(MDP)。深度学习系统和社交媒
3、体行业增强学习模型由以下5 个部分构成:以一组状态为特征的学习环境。RL 智能体可以采取的一组行动。其中每个行动都会影响智能体的未来状态,智能体具有评估其行动的长期后果的能力。RL 状态之间的转换规则。确定状态转移的立即回报规则。指定代理可以观察的内容的规则。深度学习系统和社交媒体行业 RL 算法鼓励使用样本来优化性能和使用函数近似来处理大型环境。有两种方法使得RL在处理以下三种机器学习环境时特别有吸引力:一个缺乏解决方案的已知模型环境;基于模拟的优化环境;通过与环境交互来收集有关环境的信息。强化学习环境的基本假设包括:所有事件都作为一系列剧集的情节。当达到一些终端状态时,情节结束。无论智能体
4、可能采取什么样的行动,终止都是不可避免的。对于任何决策和状态的初始分配,总报酬的期望是明确的。深度学习系统和社交媒体行业 智能算法必须能够制定RL 算法来找到一个具有最大预期收益的决策。该算法需要搜索最优策略以获得最大奖励。通常,我们使用确定的固定策略,仅基于所访问的当前或最后状态来确定性地选择动作。设计强化学习算法有许多方法。一个粗暴的方法是选择具有最大预期回报的政策,这种方法的主要困难是决策选择集可能非常大甚至是无穷的。价值函数方法试图找到一个策略,能够通过保留一些策略的预计回报估计值来寻找最大的回报。其他RL方案包括时间差方法,其允许在回报估计值确定之前改变策略。直接策略搜索方法通过直接
5、从策略空间中搜索找到良好的策略,基于梯度和基于无梯度的方法都属于这种方法。基于渐变的方法从有限维(参数)空间到策略空间的映射开始。策略搜索方法通常太慢而无法收敛到最佳选择。深度学习系统和社交媒体行业3.社交媒体行业和全球影响 社交媒体行业正在远离平面媒体,如报纸、杂志或电视节目。另一方面,电子书、移动支付、Uber汽车、在线购物和社交网络正在逐渐成为主流,其核心是在理想地点的最佳时机去捕捉或定位用户,且最终目的是服务或传达符合消费者心态的消息或内容。深度学习系统和社交媒体行业社交媒体服务体现在我们的日常生活活动的以下4个领域:社交媒体服务Web 2.0是 Web服务应用程序的一部分 用户生成的
6、内容是社交媒体的命脉 用户为社交媒体和网站针对不同的服务创建特定的配置文件 社交媒体促进社交和商业活动中的在线社交网络的发展使用ANN和CNN算法的文本和图像识别 手写数字识别是一个分类问题。如图9-1 所示,输入是手写数字图像,输出为由图像表示的数字。为了让读者易于学习和练习,我们使用经典的手写数字集Mnist 作为应用程序数据集。Mnist 包括60000 个手写数字的图像,并且每个图像都是2828 像素。使用ANN和CNN算法的文本和图像识别1.在ANN中使用TensorFlow进行数字识别 以下示例显示如何在编写人工神经网络(ANN)的过程中中使用TensorFlow,将其称为Mnis
7、t分类器。我们考虑一个4层ANN的构造,称为Mnist分类器。由4个步骤来构造他们的ANN。Step 1:收集数据:我们使用从Yann LeCun(http:/ 2:建造ANN模型:我们选择一个4层神经网络来构造分类器,它包含1个输入层,2个隐藏层和1个输出层。使用ANN和CNN算法的文本和图像识别Step 4:网络测试:算法将会比较测试数据的输出及其相应的标签并且计算其精度。Step 3:训练模型:通过比较训练数据的输出及其标签,算法将调整网络的参数。图 9 2 基于一个人工神经网络编程的TensorFlow的结果使用ANN和CNN算法的文本和图像识别2.使用卷积神经网络进行数字识别 深度学
8、习使用卷积神经网络进行特征提取和分类。图 9 3所示包括5层的卷积深神经网络结构,其中包括2个卷积层,每一个卷积层后是一个池化层,连接一个全连接层,最后进行分类输出。图 9 3 手写数字识别卷积神经网络结构使用ANN和CNN算法的文本和图像识别Step 1:读入数据集首先,读入数据集,预处理训练集train_x和标签集train_y。Step 2:初始化CNN初始化卷积层和池化层结构。Step 3:训练CNN在训练过程中,首先输入手写数字图像。前向传播算法得到输入图像的分类结果。然后,使用后向传播算法计算输出类别和标注类别的误差。最后,调整每一层的参数。训练结束后,固定网络的参数,得到训练好的
9、CNN。Step 4:测试CNN使用ANN和CNN算法的文本和图像识别3.利用卷积神经网络进行人脸识别 人脸识别是计算机视觉领域一个非常重要的研究方向,目前深度学习在人脸识别领域已经达到或超过人类水平,在LFW数据集上达到99.47%的识别率,超过人眼在此数据集上的识别率99.25%。图 9 4 Deep ID人脸识别系统结构使用ANN和CNN算法的文本和图像识别Deep ID算法如下:Input:输入层输入LFW数据集中人脸图像,3931像素 Convolution1:卷积核大小设置为44,共使用20个卷积核。这层需要设置20个44的权重矩阵,卷积步长设置为1。卷积之后获得20个特征图,每个
10、特征图大小为(39-4)+1)(28-4)+1)=3628。激活函数使用RELU(x)=max(0,x)函数。Pooling1:对上层Convolution1输出的20个特征图操作,每个不重叠的2*2区域进行最大Pooling,得到20个特征图,每个特征图大小为(36/2)(28/2)=1814。使用ANN和CNN算法的文本和图像识别 Convolution2:以上层Pooling1的输出作为输入,卷积核大小33,共使用40个卷积核(40个33的权重矩阵),卷积步长设置为1。同样使用RELU函数作为激活函数,卷积之后得到40个特征图,每个特征图大小为(18-3)+1)(14-3)+1)=161
11、2。Pooling2:对上层Convoluation2输出的40个特征图操作,每个不重叠的2*2区域进行最大Pooling,得到40个特征图,每个特征图大小为(16/2)(12/2)=86。Convolution3:使用上层Pooling2的输出作为输入,卷积核大小33,共使用60个卷积核(设置60个3*3的权重矩阵),卷积步长与Convolution2和Convolution3相同设置为1。卷积之后获得60个特征图,每个特征图大小为(8-3)+1)(6-3)+1)=64。激活函数使用RELU函数。使用ANN和CNN算法的文本和图像识别 Pooling3:对上层Convolution3输出的6
12、0个特征图进行池化操作。对每个不重叠的2*2区域进行最大Pooling,得到60个特征图,每个特征图大小为(6/2)(14/2)=32。Convolution4:以上层Pooling3的输出作为输入,卷积核大小22,共使用80个卷积核(80个2*2的权重矩阵)。卷积步长设置为1,卷积操作得到80个特征图,每个特征图大小为(3-2)+1)(2-2)+1)=21。激活函数使用RELU函数。DeepID:算法中,Deep ID层是全连接层,包含160个隐藏神经元,与Convolution4和Pooling3的输出进行全连接。softmax(输出层):使用softmax全连接的分类器,输出识别结果(所
13、有的n个类别)。使用ANN和CNN算法的文本和图像识别4.卷积神经网络医疗文本分析 使用深度学习方法进行文本的分析时,首先需要对文本进行数字化的表示,然后使用深度学习算法进行文本的特征学习和提取及相应的理解。图9-5 所示为深度学习文本理解的示意图。使用ANN和CNN算法的文本和图像识别(1)文本表示法 自然语言理解要转化为深度学习问题,首先要将文本中的每一个词用数字化的方法表示,通常使用词向量(word embedding)的方法表示。词向量文本表示方法就是建立一个词汇表,每一个词在词汇表中对应一个向量。词向量的表示方法有两种:一元表示法(one-hot representation)和分布
14、式表示法(distributed representation)。使用ANN和CNN算法的文本和图像识别(2)医疗文本理解模型建立基于卷积神经网络的医疗文本理解模型,主要包括三部分:学习词向量。训练 CNN 学习医疗文本特征。测试和应用。使用ANN和CNN算法的文本和图像识别3.卷积神经网络 对于输入文本的词向量表示xw(xw1,xw2,xwN),依次计算xw 中的每个词的卷积向量。第n 个词的卷积向量计算如图9-9 所示。(1)卷积层使用ANN和CNN算法的文本和图像识别(2)池化层 池化操作分为最大池化操作和平均池化操作,这里将进行最大池化操作。选择最大池化操作的原因是文本中每一个词的作用
15、并不是完全相等的,也就是通过最大池化选择出文本中能起到关键作用的元素。(3)输出层池化层后连接一个神经网络的全连接层,使用softmax 分类器输出分类结果。(4)CNN 训练使用随机梯度下降法进行参数的训练,参数的修改使用下式,其中 是学习率。深度增强学习的应用1.DeepMind 利用深度增强学习玩游戏 谷歌DeepMind 在一些创新的智能应用上,结合深度学习和增强算法来实现人类水平的性能,这种新的算法称为深度增强学习(DRL)。DRL 采用一组智能体来选择最优的行动。第一个DRL 方法称为Deep Q-network(DQN),由DeepMind 的David Silver 提出,他是
16、AlphaGo 的作者之一。DQN 结合了CNN 和Q-network 算法。Q-network 用来评估智能体执行一个特定动作后的奖励。图9-12 显示了谷歌的一个通用增强学习架构,称为Gorila。深度增强学习的应用2.深度增强学习算法 深度增强学习是将深度学习和增强学习结合起来的算法。其中增强是一个序列决策的问题,通过不断地选择行动来最大化未来总奖励。它和监督学习不一样,它没有监督值,但是有奖励值,而这个奖励值是执行一系列行动之后的奖励累计值。图9-13 是增强学习的简单示意图。深度增强学习的应用增强学习的目的是寻找最优策略,使之最大化累积奖励值:策略是状态到动作的映射,也就是根据当前状
17、态智能体要怎么做。有两种典型的策略:一种是决定性策略,在特定状态下明确执行一些动作,即 a=(s);另一种是随机策略,即(a|s)=Pa|s,它表示在某种状态 s 下执行某个动作 a 的概率。深度增强学习的应用 策略通常是通常价值函数来确定,预测未来奖励,体现了当前状态或状态行动的好坏。价值函数分为状态价值函数v(s)和行动价值函数q(s,a)。状态价值函数v(s)是从状态s起,执行策略能得到的期望奖励值。立即奖励值指在状态s时选择行动a瞬间得到的奖励值深度增强学习的应用通过迭代,可以得到状态价值函数和行动价值函数的关系:对于任意的马尔可夫决策过程,总能找到最优策略,所有的最优策略都对应最优状
展开阅读全文