INFORMATION & COMMUNICATIONS
信息通信2017(Sum. No 174)
机器学习算法研究及前景展望
陈嘉博
(重庆邮电大学,重庆400065)
摘要:近年,随着人工智能的快速发展,机器学习逐渐成为学术研究的热点。机器学习是人工智能的核心,专门研究计
算机怎样模拟和人类的学习行为,重新组织已有的知识结构并以此来改善自身功能。通过分析机器学习的经典算法中 的BP神经网络算法,深度学习算法以及朴素贝叶斯算法的模型和理论依据来对机器学习做简单的介绍,同时阐述了经 典算法在机器学习中的重要应用,最后探讨了机器学习未来的愿景。关键词:机器学刁;深度学习;神经网络;算法中图分类号:TP181 文献标识码:A
文章编号= 1673-1131(2017)06-0005-02
阈值,使该神经网络的误差平方和最小。
机器学习可以看做是数理统计的一个应用,在数理统计中 —个常见的任务就是拟合,也就是给定一些样本点,用合适的 曲线揭示这些样本点随着自变量的变化关系。但是样本点不 再限定在简单的轴上,而是由向量构成的广义点,而这将形 成多层复合函数。同时多层神经网络的本质即为多层复合函数。
〇引言
学习是人类具备的重要能力,现在计算机发展到了具有
逐步学习能力的阶段。什么是机器学习呢?机器学习通过自 主学习大量数据中存在的规律,获得新经验和知识从而提高 计算机智能,使得计算机拥有类似人类的决策能力•随着大 数据和硬件技术的计算和存储能力的发展,机器学习得到了 迅猛的发展。但目前机器学习仍处于初级发展阶段,计算机 在处理问题的能力上与人脑相比仍有很大的差距
1机器学习的经典算法
机器学习主要目的在于自主地在数据中得到相应的结论。 机器学习算法主要是通过数学及统计方法求解问题的最优解 的过程。下面介绍机器学习领域的BP神经网络算法,深度学 习算法以及朴素贝叶斯分类算法。1.1 BP神经网络算法
BP神经网络是由Rumelhart和MeCelland在1986年提出的,是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。BP神经网络能够学习和存 储大量的输入一输出模式映射关系,而并不需要在事前掲 示描述这种映射关系的数学方程。它使用梯度下降法作为它 的学习规则,通过反向传播的方式来调整神经网络的权值和
Layer L,
Layer L2
图1神经网络拓扑结构
BP网络是阶层型神经网络,分为输入层,隐含层以及输出 层三层。其中隐层可扩展为多层。神经网络中相邻层之间的 各个神经元进行全连接,而每层各神经元之间完全绝缘。如
制热状态,若温度超过标准值,输出为低电平,热电制冷器处 于制冷状态,并设置发光二极管D1(红)处于导通状态•若温 度超过标准值,则13管脚输出低电平,热电制冷器处于制冷 状态,同理发光二极管D2(绿)处于导通状态。
3结论
基于LM317正电压稳压器的驱动模块和LTC1293开关 模式芯片的温度自动控制模块,利用LABVIEW软件开发上 位机控制系统。该系统具有自动控温,多通道信号解调,及计 算机采集处理等功能。利用解调系统对光纤光栅传感器解调
实验结果表明:自制解调系统可实现8通道的动态信号实时 解调,系统可用于0~300kHz髙频动态信号检测。能够满足工 程方面的广泛应用。
参考文献:
[1]
张瑞君.波长可调谐DFB激光器以其进展[J].集成电路通 m,2006,24(2):42-47.
[2] 赵立民,李文强.光纤Bragg光栅传感器的解调方法概述
[J].传感器与微系统肩.26⑶:17-19.
[3] 康守强.基于DSP的光纤Bragg光栅传感信号解调技术
的研究[D].哈尔滨:哈尔滨理工大学.20076-11.
[4] 马丽,史铁林,张东生,等.光纤光栅的解调方法探究[J].科技
资讯,2006,31:38-39.
[5] 李学成•基于光纤光栅地震传感器的研究[D].兰州:兰州大
学,2010:25-28.
5
信息通信
图1所示即为神经网络拓扑结构,Layer 为输入层,Layer Lj 为隐含层,Layer L2为输出层。
ai(2)=
+
W5)x2 + W(/3)x3 + bj1))
a2(2) = f(W^xl + W^x2 + W^x3 + b^)a3(2) = f(W^xl + W^'^2 + W^x3 + b^})hwb(x) = a(,3) = fCW^fa^ +
+ b®)
式中的Wij就是相邻两层神经元之间的权值,是深度学习 需要的参数。
BP算法学习过程分为两个阶段,第一个阶段是信号的前向 传播,通过网络学习,输入训练样本输出样本特征;第二阶段是 误差的后向传播,基于最优化理论计算梯度,求出该网络输出与 预先期望的偏差,根据偏差从后向前调整网络连接强度。之后 重复交替进行前向传播和后向传播,使网络偏差逐渐减少,最终 使网络输出值慢慢趋近期望输出值,直到满足误差精度为止,此 时网络的权值和偏置即为学习到的最终特征。因此,BP算法的 本质是将网络偏差不断反馈给隐层的全部神经元,然后不断修 正各单元的权值和偏置,逐渐减少残差,以满足应用要求。在机器学习当中,目标函数是成本函数,它是一组合格参 数的标准,通过调整权值使成本函数达到最小值。成本函数 是一个所有权值作为自变量的复合函数。常通过梯度下降法 来求解其最小值。梯度下降法需要给定一个初始点,并求出 该点的梯度向量,然后以负梯度方向为搜索方向,以一定的步 长进行搜索,从而确定下一个迭代点,再计算该新的梯度方向, 如此重复直到成本函数收敛。
BP算法具有很强的学习、联想和容错功能,具有高度非线 性函数映射功能,BP算法广泛应用于函数逼近、模式识别/分 类、数据压缩等,绝大多数人工神经网络模型是采用BP网络 或它的变化形式,贬化能力好。BP算法实现了从输入到输出 的映射功能,能以任意精度逼近任何非线性的连续函数,适合 求解内部机制复杂的问题。1.2深度学习算法
深度学习是机器学习研究的一个新领域,其目标在于建 立、模拟人脑进行分析学习的神经网络。深度学习的结构时 候含有多个隐层的多层感知器。
深度学习的主要学习过程是首先使用无监督逐层训练, 使用大量的无标记的样本,自动形成特征样本,之后优化特征, 通过已经标记的样本对系统模型进行优化,提高系统区分信 息的能力,最后是通过未曾使用样本数据对系统进行测试,检 验系统的性能。
深度学习算法的核心思想是:自底向上通过无监督数据 逐层训练及非线性变换提取训练数据中的统计特征,从而实 现其中内在模式的持续进化、建立起从底层信号到高层语义 的映射关系,从而完成网络初始化:然后自顶向下通过监督学 习进行优化迭代计算,完成网络的整体调优。深度学习的训练糜是首先通过方向是由下而上的非监督 学习,使用无标记的样本数据训练第一层的模型同时确定各项 模型数据,之后以前一层的输出作为后一层的输入,逐层训练, 以确定各层参数。之后使用监督学习,通过前面的非监督学习 确定的各层参数来得到多层模型,再将模型产生的结果与数据 的实际结果比较,不断调整模型,使其最终到达所需的准确率。
通过深度学习的研究与应用,机器学习已经展示出强大 的自我学习能力,实现全局特征和分布式特征的提取,从而推 进人工智能里程碑式发展。
6
陈嘉博:机器学习算法研究及前景展望
图2人脑皮层与深度学习模型对应
1.3朴素贝叶斯分类算法
朴素贝叶斯算法是以贝叶斯定理为基础的一种分类算法,
该算法主要执行分类操作,常常采用经验性的方法构造其映 射的规则,而这个最后要得到的映射规则也叫做分类器。
贝叶斯定理公式如下:
P(B|A)
P(A|B)P(B)
其中P(A|B)表示在B发生的前提下,A发生的概率,也叫 做B发生条件下发生事件A的条件概率P (B|A)表示在A发 生的前提下B发生的概率。
朴素贝叶斯算法的主要思想:对于待分类项,求解出在该 项出现的条件下各类出现的概率,将待分类项归于概率最大 的一类。朴素贝叶斯分类的具体过程如下:首先确定特征属 性,同时对部分待分类项进行分类以此得到初步的训练样本, 该阶段输入待分类项的数据样本,而输出的则是样本特征和 训练样本。之后是分类器的生成训练,要计算每个类别在样 本中的出现频率和在每个特征前提下每个类别出现的条件概 率,这里输入训练样本,输出了分类器。最后是使用匪类器对 待分类项进行分类,最后输出了待分类项和类别的映射关系。
朴素贝叶斯算法模型起源于古典数学理论,有着坚实的 数学基础和比较稳定的工作效率,但是由于其算法较为简单, 其对缺失的数据不太敏感。
2机器学习发展愿景
机器学习理论研究将成为新的热点,同时随着大数据,云 计算及硬件性能及存储能力的快速发展,机器学习也将快速 发展,将会出现更高效跟强大的机器模型,特别是非监督机器 学习。机器学习将推动人工智能乃至整个人类社会快速发展。3结语
随着机器学习,大数据,云计算及物联网的深度发展,真 正的人工智能将成为现实,相信在不久的未来,在道路上奔驰 着的是无人驾驶汽车,在危险岗位上工作的是拥有人工智能 的机器人,同时人工智能也将在医学、教育、服务等行业为每 个人提供个性化的定制服务。机器学习终将推动人工智能真 正改变世界,造福整个人类社会。参考文献:
[1] 张润,王永滨.机器学习及其算法和发展研究[J].北京.中国
传媒大学学报自然科学版,2016,23⑵:4-7.[2] 万亿泰.BP人工智能神经网络拓扑结构及算法[J].辽宁.信
息科学,2009(28):84-85[3] 张蕊,姜盼,曲冰.BP神经网络优缺点的讨论[J].辽宁.中国
科技论文在线,2008(20): 1-2.[4] 周志华,机器学习[M].北京.清华大学出版社,2016:97-115.作者简介:陈嘉博(1996-)男,本科,重庆邮电大学,主要研究人 工智能。
因篇幅问题不能全部显示,请点此查看更多更全内容