时间:2023-06-04 09:28:38
引言:易发表网凭借丰富的文秘实践,为您精心挑选了九篇神经网络基本原理范例。如需获取更多原创内容,可随时联系我们的客服老师。
【关键词】BP神经网络;预测;误差
1.引言
许多金融学家和计量学家对发达国家成熟市场的波动性进行了广泛的研究,但是在对股市的预测上,由于人们在知识、能力、经验上存在着较大的差异,加之问题本身又具有很大的随机性和高度的非线性,即使是一些金融专家、炒股高手对出现的同一复杂行情进行分析,往往也会得出不同的结论。此外,传统方法还要事先知道各种参数,以及这些参数在什么情况下应作怎样的修正。这都给预测股市带来一定的困难。
基于以上股市预测的困难性,本文提出了人工神经网络的预测方法。随着计算机、人工智能尤其是专家系统的发展,人工神经网络技术逐渐成熟并开始应用于各个领域。人工神经网络(ANN,简称神经网络)作为一种由大量简单神经元广泛相互联接而成的非线性映射或自适应动力系统,恰好能有效解决股市预测处理中常见的困难,因此它很快在股市预测分析与处理领域得到了广泛的应用。
2.BP神经网络介绍
2.1 BP 网络算法的基本原理
2.1.1 标准的BP 网络算法的基本原理
BP(Back Propagation)网络是反向传播的多层前馈式网络,是目前使用最为广泛的一种人工神经网络。它的核心是BP算法,一种对于多基本子系统构成的大系统进行微商计算的严格而有效的方法,采用最小均方差学习方式。BP 神经网络的原理说到底就是给它一些输入变量,然后就有一个输出,输出值的情况与实际的情况进行比较,差多少,然后再进行网络的内部调整,属于有导师的学习规则,使得网络输出与实际逼近。
神经网络能学习和存贮大量的输入―输出模式映射关系,而无需事前揭示描述这种映射关系的数学方程。人工神经网络由非线性函数组成,而由一系列不同权重的线性过滤器组合而成:
2.1.2 BP网络算法的优化
由于常用的BP算法主要缺点为收敛速度慢,局部极值,难以确定隐含层和隐含层的个数,使得在实际应用中BP算法很难应用,因此,出现了许多改进算法。BP算法的改进主要有两种途径,一种是采用启发式学习方法;另一种则是采用更有效的优化算法,本文采用了动量法和学习率自适应调整的策略,从而提高了学习速度并增加了算法的可靠性。动量法降低了网络对于误差曲面局部极值的敏感性,有效地抑制了网络陷于局部极小。
2.2 BP神经网络的模型识别及步骤
模式通常指对事物的一种定量描述或结构描述,“识别”是指对客观事物按其物理特征进行分类。模式识别的基本原理就是从待识别对象和理想标本之间若干特征的相似性推断它们之间总体的相似性。BP神经网络模式识别过程分为训练阶段和模式分类阶段,分为初始化、数据与处理、网络训练以及模式分类四个步骤。以下利用实证分析来进行着四个步骤。
3.实例分析
下面以上证的某股600个交易日的股票价格收盘指数作为原始样本数据,对上述神经网络模型进行求解,预测20天的收盘价,与实际收盘价进行比较,并求出其误差:
式中,表示第日的实际收盘指数,表示第日的预测值,表示误差。主要按照如下几部分来处理:(1)准备600个数据的时间序列,进行归一化。BP神经网络中每个神经元的输出值由传递函数Sigmoid函数来计算,其输出值的范围是(0,1);(2)留出最后20个数据,作为预测检验使用;(3)绘制图像,包括实际值和预测值,能量函数;(4)分析实际和预测两曲线的趋势。
采用I-J-K学习模型,该模型是输入层I个神经元,隐层J 个神经元,输出层K个神经元。利用BP神经网络模型训练500次、800次、1000次的输出值和期望值以及能量函数(或者叫误差函数)E,结果见图1到图3。
通过上面的图示,可以看到用BP神经网络预测的效果比较明显,这说明该模型适用于短期预测吗,股市的波动在很多地区都是非常剧烈的,各种因素的综合作用也使得长期股指的变动具有极大的不确定性,使得预测变得很困难。而BP网络的算法原理和自学习的特点使其能够充分挖掘出隐含在样本数据中的规律性,实现从输入空间到输出空间的非线性映射,对样本数据进行精确的拟合。从而BP神经网络的方法对于股市上的一些很难看出规律的数据列的预测而言,无疑是一个比较精确的预测方法。
4.结论
本文介绍了股市的特点以及股市预测的困难性,提出了利用BP神经网络的方法来解决股市预测问题。文章介绍了BP神经网络算法的基本原理,BP神经网络算法的优化,BP神经网络模型识别及步骤,最后后以上海证券交易所每日股票价格收盘指数为分析对象,把原理应用于实际,利用BP神经网络对股票价格收盘指数进行了短期预测,并计算出预测值和实际值的误差。通过实验发现该模型收敛速度快,预测精度非常高,对预测短周期内股指波动具有较强的适用性。
参考文献
[1]高琴.人工神经网络在股市预测模型中的应用[J].微电子学与计算机,2007年第24卷第11期.
[2]周翠红,路迈西.线性回归与人工神经网络预测煤炭发热量[J].煤炭科学技术,第37卷第12期.
[3]尹庆双,奉莹.人工神经网络在第三产业就业分析中的应用[J].人口与经济,2009年第6期.
[4]邹文安,刘宝,姜波,杨春生.基于Excel 技术平台人工神经网络BP模型及应用[J].水文,第30卷第1期.
[5]康进,刘敬伟.非参数回归估计与人工神经网络方法的预测效果比较[J].统计与决策,2009年第23 期.
[6]杨本昭,田耕.基于人工神经网络的客户价值分类研究[J].科技管理研究,2007年第12期.
根据物流金融的运作特点,可将其风险来源归纳为来自融资企业、抵押物以及第三方物流企业三大方面。借鉴Altman,Haldeman和Narayanan(1977)提出的第二代“ZETA计分模型”中企业信用评价指标体系[3],将来自融资企业的风险细化为中小企业营运能力w1、盈利能力w2、偿债能力w3、及信用记录w4四大方面的十个具体指标,分别为w11持续经营、w12资产回报率、w13存货周转率、w21连续盈利、w22税后利润率、w23销售利润率、w31稳定存货、w32资产负债率、w33速冻比率、w41履约率。我国现阶段的物流金融业务主要集中于基于权利质押以及基于存货质押两种,因此质押物本身的质量也直接关系其风险大小。指标包括:所有权w51、市场性质w61、保险率w71三方面。作为重要参与方的物流企业为实现其对质押物的有效监管,企业规模w81及企业信誉w91也即成为影响物流金融风险的重要指标。
2基于BP神经网络和证据理论的评价方法
2.1BP神经网络的基本原理
BP神经网络,是由Rumelhart和McCelland等人(1986)提出的。其基本思想是,学习过程由信号的正向传播与误差的反向传播两个过程组成。正向传播时,输入样本从输入层通过隐含层传向输出层。若输出层的实际输出与期望输出不符,则转入误差的反向传播阶段,并将误差分摊给各层的所有单元。正向传播与误差反向传播周而复始,一直到网络输出的误差减少到可接受的程度,或预先设定的次数为止。
2.2证据理论的基本原理
①定义1:设为一个互斥又可穷举的元素的集合,称作识别框架,基本信任分配函数m是一个集合2到[0,1]的映射,A表现识别框架的任一子集,记作A哿,式中:m(A)称为时间A的基本信任分配函数,它表示证据对A的信任程度。②Dempter合成法则:假定识别框架下的两个证据E1和E2,其相应的基本信任函数为m1和m2,焦元分别为Ai和Bj,则m(A)=m1(A)茌m2(A)2.3信用风险评估算法为了保证神经网络的收敛和稳定性,本论文中将15个指标分为四组,建立4个神经网络NN1,NN2,NN3和NN4。神经网络的输出设计为(0.1,0.1,0.9)T、(0.1,0.9,0.1)T、(0.9,0.1,0.1)T,表示的信用风险级别分别为高风险、中度风险、低风险,记为A1,A2,A3。将输出归一化,得到向量(a′i1,a′i2,a′i3)T,记作V′i。令mi(Ai)=a′il,i∈{1,2,3,4},l∈{1,2,3},表示由NNi得到的对信用风险级别Ai的基本信任度,即针对事件Ai的证据。之后,再将4个证据利用DS证据理论融合。就可以对信用风险进行评估,最初最终决策。
3应用实例
本次数据采集共发出问卷200份,收回135份,有效问卷92份。将前91组数据分别训练神经网络。再将余下1个样本输入训练好的神经网络,归一化处理输出结果即得该证据对该命题的基本概率分配,而后利用DS证据理论将其融合得到最终优化结果。
4结论
关键词:人工神经网络 反向传播算法 故障诊断
1 引言
随着经济的发展,空调系统得到了越来越广泛的应用,空调设备已成为重要的生活必备品之一。这就要求空调系统可靠性高且功能齐全,而且在故障诊断维修服务方面达到一定的水平。国内目前的大部分空调系统中无故障诊断系统,当空调系统出现故障后,维保人员往往不能及时、准确地了解系统出现故障的原因及相关信息,空调系统无法得到及时修复,这种情况急需得到改善。
2 关于故障诊断技术
故障诊断FD(fault diagnosis)是一种了解和掌握设备在使用过程中的技术,确定其整体或局部是否正常,早期发现故障及其原因并能预报故障发展趋势的技术。在诊断过程中,必须利用被诊断对象表现出来的各种有用信息,经过适当地处理和分析,做出正确的诊断结论。在制冷暖通空调领域,1987年在彦启森教授的建议下,才开始了故障诊断专家系统在制冷暖通空调领域的研究应用[1]。
3 人工神经网络用于空调系统故障诊断的基本原理
人工神经网络(Artificial Neural Network.简称ANN)正是在人类对其大脑神经网络认识理解的基础上人工构造的能够实现某种功能的神经网络。它是理论化的人脑神经网络的数学模型,是基于模仿大脑神经网络结构和功能而建立的一种信息处理系统。它实际上是由大量简单元件相互连接而成的复杂网络,具有高度的非线性,能够进行复杂的逻辑操作和非线性关系实现的系统。
典型的神经网络结构如图1所示。
在众多的人工神经网络模型中,最常用的是BP(Back Propagation)模型,即利用误差反向传播算法求解的多层前向神经网络模型[2]。BP网络在故障诊断、模式识别、图像识别、管理系统等方面都得到了广泛的应用。本文讨论利用神经网络中的BP模型进行空调系统的故障诊断。
首先需要进行知识的获取。由专家提供关于各种空调系统故障现象(征兆集)及相应的故障原因(故障集)实例作为学习样本。将数据分为两部分,一部分用于训练网络,另一部分用于测试。将训练网络的数据按一定顺序编码,分别赋给网络输入、输出节点,通过神经网络学习算法对样本进行学习,经过网络内部自适应算法不断修正权值,直到达到所要求的学习精度为止。此时在大量神经元之间联结权值上就分布着专家知识和经验。训练完毕后,再将测试网络的数据从初始状态出发,向前推理,将显示出的故障结果与实际的测试数据结果相比较,如果误差很小,说明网络的权值建立正确;如果误差较大,说明网络的权值建立有误,需要重新进行网络的训练。
将训练样本训练完毕后,即可进行空调系统的故障诊断。只要实际输入模式接近于某一个训练时的学习样本的输入模式,则可产生出接近学习样本的输出结果,也就是所谓的自联想功能。同时,由于网络计算上的大量并行性,当机器运行状况改变,出现网络学习未考虑的情况时,系统亦能给出正确分类结果。同时将新数据并入网络,实现系统的自适应。一般来说,学习的故障实例样本越多,诊断结果的准确率越高。
4 BP学习算法
BP算法因其简单、易行、计算量小、并行性强等优点,是目前神经网络训练采用最多也是最成熟的训练算法之一。BP算法的实质是求解误差函数的最小值问题,由于它采用非线性规划中的梯度下降法(Gradient Descent),按误差函数的负梯度方向修正权值 [3]。其主要思路是如果求出训练网络的指标函数误差:
一般的BP算法称为标准误差逆传播算法,也就是对应每一次输入都校正一次权值。这种算法不是全局误差意义上的梯度下降计算。对各个神经元的输出求偏导数,那么就可以算出误差对所有连接权值的偏导数,从而可以利用梯度下降法来修改各个连接权值。真正的全局误差意义上的梯度下降算法是在全部训练模式都学习完后才校正连接权和阈值。其计算流程如图2所示:
5 故障诊断实例 5.1 空调系统故障诊断的BP网络建立
空调系统故障模式及故障机制分析[4]如表1所示
表1 空调系统故障模式及故障机制分析 表示
符号
表示
符号
房间温度均偏高
1.冷冻机产冷量不足
2.喷水堵塞
3.通过空气处理设备的风量过大,热交换不良
4.回风量大于送风量
5.送风量不足(可能空气过滤气堵塞)
6.表冷器结霜,造成堵塞
相对湿度均偏低
7.室外空气未经加湿处理
系统实测风量大于设计风量
8.系统的实际阻力小于设计阻力
9.设计时选用风机容量偏大
房间气流速度超过允许流速
10.送风口速度过大
【关键词】故障诊断;基本原理;神经网络;实际应用
引言
电梯在实际生活中出现不正常运行、停运等故障是在所难免的,而作为高层建筑中主要的垂直交通工具如果不能及时准确的查明故障原因并维修往往会给乘客带来巨大的生命威胁。只有保证电梯的安全运行,及时的发现故障并解决故障,才能够为乘坐电梯的乘客提供合格的安全保证。目前,国内在用的电梯缺乏完善的故障诊断系统,仅仅依靠维修技术人员的经验以及简单的诊断仪器已经不能够及时的解决复杂的电梯故障问题。神经网络技术可以应用于复杂多模式的故障诊断并且既可以用于实时监测也可以进行离线诊断,在系统模式非常复杂或者根本不知道系统模式的情况都可以应用,这些特点恰恰解决了传统方法中最最难以解决的问题。因此必须加快神经网络技术应用于诊断电梯故障的步伐,形成完善的故障诊断系统,才能更及时准确的查明故障原因进一步及时的解决问题,保证乘客的人身安全。
一、电梯的运行原理和电梯故障的特点
只有清楚地了解电梯控制系统的运行原理才能够及时准确的诊断出电梯故障原因,因此清楚的了解电梯运行原理,每一个电梯维修人员必须要做到。电梯运行过程总体上可分为以下几个阶段:第一、登记层外召唤信号和登记内选指令阶段;第二、电梯门关闭或者电梯按照系统指令停运阶段;第三、启动阶段;第四、在到达信号记录的楼层前进行减速制动;第五、平层开门阶段。在整个过程中电梯需要从外界接收信号并处理,然后完成相应的指令或者输出信号,由此可以将电梯看作是一个完整的独立的系统,只需要外界给予相应的信号就可以自动的做出动作。电梯系统内部复杂的构件紧密的结合在一起,正是如此才使得电梯系统故障具有了复杂性、层次性、相关性以及不确定性的特点。
二、神经网络技术基本原理
生物学上的神经是由一个个简单的神经元相互连接进而形成了复杂的庞大的神经系统,同理,神经网络就是由大量简单的处理单元相互连接形成的复杂的智能系统。单独的处理单元类似于一个神经元,是一个可以接受不同信息但是只输出一种信息的结构单位。神经网络系统与生物学神经系统相似的是具有自我修改能力,它可以同时接收大量的数据并进行统一的分析处理,进而输出相应的处理结果。这就使得神经网络系统具有了高度容错性、高度并行性、自我修改性、学习性以及高度复杂性,也正是由于这些特性才使的利用神经网络技术能够及时准确的查明电梯故障原因并得出故障解决方案。电梯故障诊断中应用的神经网络模型分为三个层次:输入层、接收外部信号或者是电梯自我检测信息(如载重信息);隐含层、对接收到了大量数据进行相应的分析处理;输出层、将记录着动作命令的数据传送出来。在电梯出现故障时,首先可以通过神经网络模型快速确定故障发生在哪一层达到节约时间的目的。但是神经网络也会因为收敛速度过于慢、训练强度太大或者是选择的网络模型不好等问题导致诊断结果受到影响。
三、神经网络模型在电梯故障诊断中的应用分类
神经网络模型已经成为了如今电梯故障诊断中应用最广泛的技术模型,相比于传统方式它具有诊断速度快、故障原因命中率高的优点,因此引起了各方面专业人士的强烈关注,并在他们的不懈努力下得到了发展与创新。它跨越多个专业领域、通过对各种复杂的高难度工作的不断的发展与改进出现了越来越多的应用模型,下面主要介绍了当前应用最普遍的BP网络模型,并且简单的引入并介绍了近年来新兴的模糊神经网络模型和遗传小波神经网络模型。
(一)BP网络模型
BP神经网络作为神经网络应用最广泛的一种,它多应用的误差反向传播算法使其在模式识别、诊断故障、图像识别以及管理系统方面具有相对先进性。基于BP网络的电梯故障诊断技术就是通过学习故障信息、诊断经验并不断训练,并将所学到的知识利用各层次之间节点上的权值从而表达出来。BP网络系统的主要诊断步骤主要可以分为三步。第一步:对输入输出的数据进行归一化处理,将数据映射到特定的区间。第二步:建立BP网络模型,训练BP网络模型。第三:通过已经训练好的网络模型对原来的样本进行全面的检测。算法步骤:a、在一定的取值范围内对数据进行初始化;b、确定输入值数值大小,计算出预期输出量;c、用实际输出的值减去上一步得到的数值;d、将上一步得到的误差分配到隐含层,从而计算出隐含层的误差;e、修正输出层的权值和阈值,修正隐含层的权值;f、修正隐含层的阈值,修正隐含层和输入层的权值。
(二)遗传小波神经网络模型
遗传算法运用了生物界的优胜劣汰、适者生存的思想对复杂问题进行优化,适用于复杂的故障,起到了优化简化问题的作用。对局部数据进行详细的分析是小波法最大的特点,所以它被誉为“数字显微镜”。遗传算法小波神经网络就是运用小波进行分解的方法分解模拟故障信号,将得到的数据进行归一化,将归一化后的数值输入到神经网络模型中。它融合了神经网络、小波分析和遗传算法三者所有的优点。基于遗传小波神经网络的电梯故障诊断的一般步骤为:测试节点信号采样、小波分解、故障特征量提取、归一化得到训练样本集、遗传算法优化、得到故障类型。遗传小波神经网络模型在故障原因复杂、数据信息量巨大的电梯系统的应用中能够发挥更大的作用。
(三)模糊神经网络模型
模糊神经网络模型就是创新性的将神经网络与模糊理论结合到一起。它采用了广义的方向推理和广义的前向推理两种推理方式。与其它两种模型不同的是,它的语言逻辑、判断依据和结论都是模糊的。但是它的数据处理能力还有自我学习能力并没有因此而变差,反而更加丰富了它的定性知识的内容。在处理实际问题的过程中,首先要建立所有可能发生的故障的完整集合,其次将所有的故障发生原因归入到同一个集合中去,最后就是建立故障和原因的关系矩阵。分别叫做模糊故障集、模糊原因集、模糊关系矩阵。相较于BP网络模型,这种模型更加的简单易行,充分发挥了神经网络和模糊逻辑的优点,不会因为故障原因过于复杂而失去诊断的准确性,在原本丰富定性知识和强大数据处理能力的基础上具有了很大的自我训练能力。
结语
综上所述,神经网络技术可以应用于复杂多模式的故障诊断并且既可以用于实时监测也可以进行离线诊断,在系统模式非常复杂或者根本不知道系统模式的情况都可以应用,这些特点恰恰解决了传统方法中最最难以解决的问题,它的应用提高了电梯故障的诊断速度和准确度,保证了电梯运行的安全性。虽然神经网络技术的优点很多,但是在实际生活中的应用还很少,因此还需要不断的进行改进完善。同时还要注意将集中诊断方法融合到一起,例如稳重提到的模糊神经网络模型和遗传小波神经网络模型都是集成应用的典型代表。
关键词:人工神经网络;BP网络;数字识别
中图分类号:TP183 文献标识码:A文章编号:1007-9599 (2011) 19-0000-02
Digital Identification Study Based on Neural Network
Wang Qinghai
(Qinghai Normal University,Xining810008,China)
Abstract:At first,this paper introduced the priciple of NN and a BP net,secondly,according to the principle of noised digital number recognition,it designed to the BP network model for applying to identify.At last,the BP network had been effectively carried out by using Visual C++ 6.0 software.Practice shows that the network to identify digital character has a high recognition-rate.The author think that the realization of the network has wide application prospects.
keywords:Artificial nerve network;BP network;Digital recognition
人工神经网络是人工智能领域发展最快的信息处理技术之一,是由研究大脑和神经系统获得的启示而建立的一种计算模型。由于其具有鲜明的分类能力、并行处理能力和自学习能力。通过对有代表性的样本的学习可以掌握学习对象的内在规律,从而可以在一定程度上克服信息量大的问题,解决传统方法的不足。采用神经网络的识别方式对字符识别研究提供了一种新的手段,其应用具有重要的意义。本文论述了利用神经网络理论进行图像识别的原理并用Visual C++6.0实现了在提取图像特征后,利用BP神经网络进行图形识别图像的主要技术。
一、BP网络简介
BP神经网络通常采用输入层、隐层和输出层的结构形式,层与层之间的神经元进行全加权连接。相关文献表明,含有一个隐层的3层BP神经网络可拟合任意的非线性函数。
图1中 和 为连接权系数矩阵, 和 为偏差矩阵, 为输入矩阵, 为输入参数,隐层含有 个神经元,输出层含有 个神经元, 和 为各层传递函数。激励函数决定了神经模型的学习和计算能力,也决定了模型的构造方法与性能的优劣。本工作网络隐层和输出层都采用 函数作为激励函数。
在实际训练时,首先要提供一组训练样本,其中的每个训练样本由输入样本和理想输出对组成。当网络的所有实际输出与其理想输出一致时,训练结束。否则,通过误差逆传播的方法来修正权值使网络的理想输出与实际输出一致。反复学习直至样本集总误差(公式1)达到某个精度要求,即E
(公式1)
其中 为网络之实际输出, 为网络期望输出。
二、数字字符识别的基本原理
数字识别系统在实现的过程当中,先分解成两个大块,就是图像预处理模块和数字识别模块。其中图像预处理块在对图像进行了一系列变换后把最后提到的数字字符提交给数字识别模块,然后进行识别并给出结果。
数字识别系统中图像预处理环节用到了许多图像处理中的相关技术:比如灰度化、二值化、图像内容自动调整、去离散点、图像的缩放、细化、曲线平滑、曲线去枝桠操作及神经网络对提取到的数字信息进行分析判断[1]。
三、神经网络的设计与实现
(一)数字的编码方式
本文采用BP网络的思想来设计并训练一个可行、高效的BP网络,以实现对0到9共10个加噪声后的数字识别。
这里采用8×8个加64点阵的形式,使用美观的数码管字体。
(二)神经网络模型的建立
由于本文中所介绍的系统采用8×8个加64点阵的形式表示数字字符,所以容易确定BP神经网络的输入层为64维。在输出层,将0~9数字用8421码进行编码,这样10个数字就需要4位二进制的编码。因此就可确定输出层有4个神经元。隐层的神经元数目的选择,是BP算法设计的关键。编程证明,当隐层神经元数目超过55的时候,网络的训练时间将无法忍受,同时抗噪声能力大大降低[3];当神经元数目低于7的时候,系统误差无法收敛到满意的值,又造成识别率过低[4]。经过多次的比较分析、测试,本文最终选定了隐层为49个神经元。
(三)数字识别的基本步骤
Step1:初始化样本,这里采用两组样本训练网络,第一组是纯净的不含噪声的样本数据0-9,第二组是含10%噪声的样本数据0-9。
Step2:初始化神经网络。
Step3:利用第一步中的样本训练神经网络。
Step4:利用训练好的网络进行数字识别。
(四)程序的实现
本文采用Visual C++6.0加以实现。
setSamples()的功能:装载的网络学习样本集和目标输出,并传递给inputsamples和targetsamples。
Train()的功能:根据setSamples()装载的网络学习样本集和目标输出,训练网络权值和阀值参数[6]。
程序的实际运行表明对数字字符采用如上的BP网络可以达到很高的识别率。
四、结论
实践证明,该网络对数字字符识别具有很高的识别率,由神经网络具有自学习、联想、记忆、行处理复杂模式的功能,在多过程、非线性系统方面的模式识别中发挥着较大的作用[7]。此网络的实现具有广阔的应用前景。
参考文献:
[1]方彩婷.基于BP神经网络的图像识别与跟踪研究[D].西安:西安电子科技大学,2006
[2]熊国清,于起峰.用于实时跟踪的快速匹配算法[J].计算机辅助设计与图形学,2002,7(2):46-48
[3]桑农,张天序.旋转与比例不变点特征松弛匹配算法的Hopfield神经网络实现[J].宇航学报,1999,20(3):106-108
[4]杨小冈,曹菲,缪栋等.系统工程与电子技术[M].北京:高教出版社,2005
[5]张宏林.Visual C++数字图像模式识别技术及工程实践[M].北京:人民邮电出版社,2003
[6]万里青,赵荣椿,孙隆和.不变性目标识别方法研究[J].信号处理,1996,12(2):124-128
[7]焦李成.神经网络系统理论[M].西安:西安电子科技大学出版社,1995
关键词:功率放大器; 预失真技术; 神经网络; 单入双出; 互调失真
中图分类号:TP18 文献标识码:A
文章编号:1004-373X(2010)09-0107-05
Research of Self-adaptive Digital Predistortion Technology Based on SIDO-neural Network
QIU Wei, LIU Yu-peng, ZHANG Lei-lei
(The base of China Ocean Measure, Jiangyin 214431, China)
Abstract: Because of inherent nonlinearity of high-power amplifier, which may cause bad influence on communication systems, it is necessary to make a linearization processing to overcome or weaken it. The math analysis of nonlinear distortion for the high-power amplifier(HPA) is performed. The basic principle of digital predistortion and the foundamental knowledge of neural network are described. A self-adaptive digital predistortion technology based on SIDO-neural network is proposed according to the amplifying amplitude and the distortion characteristic of phase, which can be improved by the technology. Taking a double-sound signal and 16QAM signal as an example, the Matlab simulation is carried out, The result proves that this technology is superior.
Keywords: power amplifier; predistortion technology; neural network; SIDO; intermodulation distortion
0 引 言
无线通信技术迅猛发展,人们对通信系统的容量要求也越来越大。为了追求更高的数据速率和频谱效率,现代通信系统都普遍采用线性调制方式,如16QAM和QPSK方式,以及多载波配置[1]。
但这些技术产生的信号峰均比都较大,均要求功率放大器具有良好的线性特性,否则就会出现较大的互调失真,同时会导致频谱扩展,造成临道干扰,使误码率恶化,从而降低系统性能。
预失真技术是一项简单易行的功放线性化技术,具有电路形式简单,调整方便,效率高,造价低等优点[2]。其中,基带预失真还能采用现代的数字信号处理技术,是最为看好的一项功放线性化技术。这里利用一种简单的单入双出三层前向神经网络来进行自适应预失真处理,同时补偿由高功率放大器非线性特性引起的幅度失真和相位失真,从而实现其线性化。
文中分析了基于这种结构的自适应算法,并做了相应的仿真。仿真结果表明,该方法能有效克服功放的非线性失真,且收敛速度比一般多项式预失真更快,具有一定的优势。
1 高功率放大器非线性分析
高功率放大器一般都是非线性器件,特别是当输入信号幅度变化较大时,放大器的工作区将在饱和区、截止区、放大区之间来回转换,非线性失真严重,会产生高次谐波和互调失真分量。由于理论上任何函数都可以分解为多项式的形式,故放大器的输入和输出关系表示为:
Vo=a1Vi+a2V2i+a3V3i+…+anVni(1)
假设输入的双音信号为:
Vi=V1cos(ω1t)+V2cos(ω2t)(2)
把式(2)代入式(1),得到输出电压为:
Vo=a22(V21+V22)+a1V1+a334V31+32V1V22+…cos(ω1t)+a2V2+a334V32+32V2V21+…cos(ω2t)+12a2V21+…cos(2ω1t)+12a2V22+…cos(2ω2t)+14a3V31+…cos(3ω1t)+14a3V32+…cos(3ω2t)+a2V1V2[cos(ω1+ω2)t+cos(ω1-ω2)t]+34a3V21V2[cos(2ω1+ω2)t+cos(2ω1-ω2)t]+
34a3V22V1[cos(2ω2+ω1)t+cos(2ω2-ω1)t]+58a5V31V22cos(3ω2-2ω1)t+58a5V21V32cos(3ω1-2ω2)t+…
从上式可以看出,输出信号中不仅包含了2个基频ω1,ω2,还产生了零频,2次及高次谐波以及互调分量。通常2ω1-ω2,2ω2-ω1,3ω1-2ω2和2ω1-3ω2会落在通频带内,一般无法滤除,是对通信影响最大的非线性失真分量,即所谓的三阶互调和五阶互调。放大器线性化的目标就是在保证一定效率的前提下最大地减小┤阶和┪褰谆サ鞣至俊
2 预失真基本原理及其自适应
预失真就是在信号通过放大器之前通过预失真器对信号做一个与放大器失真特性相反的失真,然后与放大器级联,从而保证输出信号相对输入信号是线性变化。预失真器产生一个非线性的转移特性,这个转移特性在相位上与放大器转移特性相反,实质上就是一个非线性发生器。其原理图如图1所示。
图1 预失真基本原理
预失真器的实现通常有查询表法和非线性函数两种方式[2]。由于查表法结构简单,易于实现,早期的预失真多采用此方法,但它对性能的改善程度取决于表项的大小,性能改善越大,需要的表项越大,所需要的存储空间也越大,每次查找遍历表项的每个数据和更新表项所需要的时间和计算时间也越长,因此在高速信息传输的今天已经不可取。非线性函数法是用一个非线性工作函数来拟合放大器输出信号采样值及其输入信号的工作曲线,然后根据预失真器特性与放大器特性相反,求出预失真器的非线性特性函数,从而对发送信号进行预失真处理。这种方法只需要更新非线性函数的几个系数,而不需要大的存储空间,因此是近年来研究的热点。
假设预失真器传输函数为F(x),放大器传输函数为G(x),F和G均为复函数。若输入信号为x(t),则经过预失真器之后的信号为u(t)=F[x(t)],放大器输出函数为y(t)=G[u(t)]=G{F[x(t)]},预失真的目的就是使x(t)通过预失真器和放大器级联后输出y(t)=ax(t),a为放大器增益。通过一定的方法可以找到合适的F,使实际输出和期望输出的误差最小。
由于温度、电器特性、使用环境等因素的不断变化,放大器的传输特性也会发生变化,从而预失真器传输函数F(x)的各参数也会随之而变化,因此现代数字预失真技术一般都要采用自适应技术以跟踪调整参数的变化。目前常用的两种自适应预失真结构如图2、图3所示。
图2 自适应预失真系统结构图
图3 复制粘帖式自适应预失真系统结构图
图2是一般的通用自适应结构,结构简单,思路明确,但一些经典的自适应算法由于多了放大器求导项而不能直接应用,且需要辨识放大器的传输特性,而图3的复制粘帖式结构(非直接学习)则不存在这些问题,关于这种结构的优缺点比较和具体性能分析见文献[3]。本文将采用后一种自适应结构。
3 基于一种单入双出式神经网络的自适应预失真技术
3.1 神经网络
神经网络是基于生物学神经元网络的基本原理而建立的。它是由许多称为神经元的简单处理单元组成的一类自适应系统,所有神经元通过前向或回馈的方式相互关联、相互作用。由Minsky和Papert提出的多层前向神经元网络是目前最为常用的网络结构,已广泛应用到模式分类和函数逼近中,且已证明含有任意多个隐层神经元的多层前向神经元网络可以逼近任意的连续函数[4]。本文利用神经网络的这种功能来拟合预失真器的特性曲线,并且用改进的反向传播算法来自适应更新系数。
多层前向神经元网络由输入层、一个或多个隐层和输出层并以前向方式连接而成,其每一层又由许多人工神经元组成,前一层的输出作为下一层神经元的输入数据。三层前向神经元网络示意图如图4所示,其中输入层有M个人工神经元,隐层有K个神经元,输出层有N个神经元。关于人工神经元的具体介绍参考文献[5-6]。
图4 三层前向神经元网络
3.2 基于单入双出式神经网络的自适应预失真系统模型
对于图5所示的单入双出式三层前向神经网络,假设隐层包含K个神经元。输入数据经过一系列权系数{w11,w12,…w1K}加权后到达隐层的各个神经元。隐层中的神经元将输入进来的数据通过一个激励函数(核函数),将其各神经元的输出经过一系列权系数{w21,w22,…,w2K}和{w31,w32,…,w3K}加权并求和后分别作为输入层第一个神经元和第二个神经元的输入,然后各神经元的输入通过激励函数得到两个输出。
将图5代替图3中的函数发生器,即得到本文中所提到的基于单入双出式前向神经网络的预失真器结构图,如图6所示。
神经网络的三组系数向量开始都随机初始化。设输入序列为xi(i=1,2,…),通过幅度提取和相位提取后得到信号的幅度序列和相位序列。若神经网络的输入为原始输入序列的幅度序列ri(i=1,2,…),则隐层各单元输入I1k=w1kri-θ1k。经过核函数后,隐层各单元的输出为J1k=f(I1k),其中f(x)=11+e-x为核函数,输出层的静输入为z1=∑Kk=1w2k*J1k-θ1,z2=∑Kk=1w3k*J1k-θ2,输出层神经元1的输出,即预失真器幅度预失真分量为U1=f(z1)。
图5 单入双出三层前向神经元网络
图6 单入双出式前向神经网络预失真器结构图
由于相位失真分量的输出范围没有限制在0和1之间,因此不能用核函数加以限制,这里设定输出层神经元2的输出等于其输入,即预失真器相位预失真分量为U2=z2,最后预失真后的幅度和相位和的指数相乘得到送入功放的复信号。功率放大器的输出信号设为yi(i=1,2,…),其幅度和相偏分别为yai(i=1,2,…)和ypi(i=1,2,…)。最后整个系统的幅度绝对误差为ea(i)=Gri-ya(i),相位绝对误差为ep(i)=U2(i)+yp(i),整个系统的绝对误差和为e(i)=ea(i)+ep(i),然而直接把此误差运用到反向传播算法(BP算法)中会导致算法出现局部收敛且收敛速度极慢。因此本文对误差信号做了改进,即把误差信号改为:
e(i)=12[λ(ea(i)]2+(1-λ)φ[ea(i)]+
λ[ep(i)]2+(1-λ)φ[ep(i)]
其中:φ(x)=In[cos(βx)]/β,加入的调整因子λ和辅助项φ,能把算法从局部收敛点拉出来,且收敛速度得到一定的提高。最后根据反向传播算法,得到训练神经网络的权系数更新式如下(下标2为隐层到输出层权系数,下标1为输入层到隐层权系数):
δ2a(i)=ca(i)*[1+U1(i)]*[1-U1(i)](3)
δ2p(i)=cp(i)(4)
w2(i)=α*δ2a(i)*J1+η*w2(i-1)(5)
θ2(i)=α*δ2a(i)+η*θ2(i-1)(6)
w3(i)=-α*δ2p(i)*J1+η*w3(i-1)(7)
θ3(i)=-α*δ2p(i)+η*θ2(i-1)(8)
δ1(i)=(δ2a(i)*w2-δ2p(i)*w3)*
J1(i)*[1-J1(i)](9)
w1(i)=β*δ1(i)*ri+η*w1(i-1)(10)
θ1(i)=β*δ1(i)+η*θ1(i)(11)
式中:ca(i)=λea(i)-1-λ2tan[β*ea(i)];cp(i)=λ*ep(i)-1-λ2tan[β*ep(i)]。
预失真权系数可分为训练和跟踪两个阶段。根据上面的迭代公式,得到一组训练神经网络的权系数,用当前的权系数替代预失真器神经网络中原来的权系数,得到一组新的预失真系数,之后重新计算误差,继续上面的过程循环迭代运算,直到误差小于规定的范围,即整个系统收敛,则预失真器训练完成,此时为训练阶段。之后随着温度、输入的调制信号不同,以及环境等变化可能引起功放特性的变化,可以设置一个误差门限值,一旦发现误差超过此门限,立即重新启动上面的循环迭代,重新训练,直到满足条件,此时为跟踪阶段。这种改进型BP算法的收敛速度快,能满足实时运算的要求。同时在硬件实现上,只要做一个核函数发生器,其他都是乘累加运算,硬件实现要简单得多,因此具有一定的实用性。
4 性能仿真
文中使用双音信号进行了仿真分析,双音信号为:
xs=0.5[sin(2π×10×t)+sin(2π×8×t)]
放大器模型采用经典salef[9]模型,神经网络的隐层数设为15。图7为双音信号原始频谱。
图8是为双音信号直接通过放大器和通过文中所提的预失真网络后再通过放大器的频谱图对比。由此可见,双音信号直接通过放大器后产生了较大的失真,其中的三阶互调达到了-16 dB,五阶互调也有-29 dB。通过对文中所提神经网络预失真系统进行处理后,即信号通过预失真器再通过放大器后,三阶互调被抑制到-42 dB,五阶互调也被抑制到-48 dB以下,此时三阶互调改善26 dB,五阶互调改善19 dB,使放大器的非线性失真得到较大的抑制。
图7 原始信号归一化频谱图
图8 预失真前后信号归一化频谱图
下面以16QAM信号为例,说明这种预失真技术对功放非线性特性的改善,如图9所示。
图9(a)为16QAM信号规则星座图,调制信号均匀地分布在正方形的16个点上;图9(b)为16QAM信号经过功率放大器后解调的星座图。由图可见,信号经过放大器后,幅度受到压缩,相位发生偏移,并且输入信号幅度越大,输出信号幅度压缩越大,相位偏移越严重,最后出现严重的“云团效应”,使得接收端不能正确解调信号。图9(c)是经过本节所提出的单入双出式神经网络预失真器处理后解调信号的星座图。由图可见,经过预失真处理后,由于放大器非线性引起的幅度压缩和相位旋转都得到较好的纠正,“云团效应”明显减弱,最后各个点基本都在理想点上,与┩9(a)对比,基本消除了失真。
5 结 语
针对放大器固有的非线性特性问题,从数学上分析了放大器的非线性失真,介绍了基于预失真基本原理和神经网络基本概念,提出了一种单入双出式神经网络自适应预失真技术。仿真结果表明,该技术能对三阶互调能抑制29 dB左右,对五阶互调能抑制19 dB左右,对QAM调制信号由于放大器非线性引起的幅度压缩和相位旋转都得到较好的纠正,在很大程度上克服了放大器非线性特性,改善了通信系统的性能。
图9 16QAM信号星座图失真及改善对比
参考文献
[1]赵慧,漆兰芬.射频放大器的工作函数预失真线性化[J].无线电工程,2001,31(12):58-61.
[2]贾建华,刘战胜.关于自适应预失真射频功率放大器线性化研究[J].微波学报,2005,21(3):48-50.
[3]钱业青.一种高效的用于RF功率放大器线性化的自适应预失真结构[J].通信学报,2006,27(5):35-40,46.
[4]CYBENKO G. Approximations by superpositions of a sigmoidal function[J]. Mathematics of Control, Signals and Systems, 1989(2): 183-192.
[5]刘宝碇,赵瑞清,王纲.不确定规划及应用[M].北京:清华大学出版社,2003.
[6]朱剑英.只能系统非经典数学方法[M].武汉:华中科技大学出版社,2001.
[7]WU Shan-yin, SIMON H S F, WONG Y M. The use of nonlinear curvefitting in digital predistortion for linearizing RF power amplifiers[J]. IEEE ICICS, 2005, 3: 960-963.
[8]GLENTIS G O, BERBERDIS K, THEODORIDID S. Efficient least sqares adaptive algorithms for FIR transversal filtering[J].IEEE Signal Processing Magazine,1999,16(4):13-41.
关键词:城区土壤;重金属污染;遗传算法;BP神经网络
中图分类号:X53 文献标识码:A 文章编号:0439-8114(2013)03-0685-03
重金属污染是全球环境污染的突出问题,随着社会和经济的发展,重金属污染危害日益加重。研究重金属污染的分布,并根据分布情况实现对污染源的定位对于有关部门进行及时的环境预防与整治具有重要意义[1]。
近年来兴起的人工神经网络能通过学习实例集自动提取“合理的”求解规则,且具有容错和容差能力以及一定的推广能力。本研究建立基于并行遗传算法的BP神经网络系统,该模型可以实现对污染源位置的定位,从而为相关部门及时进行环境整治提供了理论依据。
1 构建基于遗传算法的BP神经网络模型
1.1 BP神经网络基本原理
BP神经网络是在对复杂的生物BP神经网络研究和理解的基础上发展起来的,因此具有较强的信息处理能力,对复杂的问题具有适应和自学的能力,可以很好地协调多种输入信息的关系[2]。BP神经网络通常由输入层、若干隐含层和输出层组成,每层都包含若干神经元,通过神经元之间的相互作用来完成整个网络的信息处理。其网络拓扑结构如图1。同一层各神经元相互没有连接,相邻层的神经元通过权实现全连接。
1.2 BPANN算法改进
普通的BP神经网络有自身的缺陷,包括易陷入局部最小点、收敛速度慢、学习过程容易出现震荡等。为了改进普通的BP神经网络,引入遗传算法(Genetic algorithm,GA)。遗传算法是一种基于自然选择和基因遗传学原理的优化搜索算法,它将“优胜劣汰,适者生存”的生物进化原理引入待优化参数形成的编码串群体中,按照一定的适配值函数及一系列的遗传操作对个体进行了筛选,从而使适配值高的个体被保留下来,组成新的群体,新群体中包含上一代的大量信息,并且引入新的优于上一代的个体。这样的周而复始,群体中的适应度不断提高,直到满足一定的条件为止,其基本原理如图2[3]。
遗传算法与神经网络算法的结合就是利用GA优化网络的拓扑结构,如网络层数和每层的节点数,以及各层节点间的连接关系。根据某些性能评价准则(如学习速度、泛化能力或结构复杂程度等)搜索结构空间中满足问题要求的最佳BP神经网络。基于遗传算法的神经网络流程如图3。
2 模型应用实例——以青岛市城区土壤重金属污染源的定位为例
青岛是中国重要的经济中心城市和港口城市,是中国重要的外贸口岸之一、国家历史文化名城和风景旅游胜地,作为体现青岛面貌的首要因素——环境,已成为青岛、中国乃至世界大众关注的问题。因此,对青岛的城市环境地球化学研究势在必行。
现以青岛市城区为例,根据从城区采样得到的土壤重金属含量数据建立神经网络模型,对污染源进行定位。对青岛市南区、市北区、四方区、李沧区、崂山区5个城区进行了广泛的土壤地质调查,将所考察的城区按照每平方公里1个采样点对表层土进行取样,共得到319个采样点,并分别检测每个采样点的8种重金属Cd、Cr、Cu、Hg、Ni、Pb、Zn和As的含量[4]。
对每种金属元素进行多次基于遗传算法的BP神经网络模拟后,在所得的数据矩阵中随机选取200个点对应的坐标进行绘图,绘图结果如图4。从图4中可以看出,每种重金属元素在城区中的空间分布,对数据中每种金属元素的空间坐标进行K-means聚类,所得的聚类中心即为污染源预测位置。
3 小结
通过建立基于遗传算法的BP神经网络模型,并将该模型运用于青岛市城区内各种重金属污染源的定位。使得环境管理部门可以在目标地区的土壤进行采样分析的基础上,利用该算法得出目标地区内重金属元素的分布图,根据极大值点可以定位污染源,并由此采取相应的管理措施。该算法的优越性在于可利用部分测量数据估计整体地区的分布情况,但同时也存在不足之处,一是数据获取困难,一般需要依靠卫星测量获取样本数据,二是算法虽然有较高的收敛速度,但缺少动态性,无法进行金属元素的动态分析和分布变化预测。
参考文献:
[1] 马旺海,曹 斌,杨进峰,等.城市重金属污染特征[J]. 中央民族大学学报(自然科学版),2008,17(1):66-73.
[2] 卢文喜,杨忠平,李 平,等.基于改进BP算法的地下水动态预测模型[J].水资源保护,2007,23(3):5-8,59.
[关键词]神经网络 多层感知器 层位标定 地震属性 油气预测
中图分类号:TE328 文献标识码:A 文章编号:1009-914X(2016)03-0025-01
1.人工神经网络的基本原理
目前人工神经网络有四十种左右,结构、性能各不相同,但无论差异如何,它们都是由大量简单的基本处理单元广泛连接而成的。这种基本处理单元称为神经元,也称为节点,它是生物神经元的模拟物。最简单的节点是所有输入的加权和,并通过一个非线性函数输出结果
决定一个神经网络性质的要素有三个,即神经元特性、网络结构、训练方法(或叫学习方法)。所谓训练方法是指网络作什么方法适应或学习自动地形成网络中各个节点之间相互连接的权系数及各个节点的阀值。由于这三个要素的不同形成了丰富多彩的各种网络。在该项目的研究中,使用的神经网络是多层感知器(Multilayer Perceptron)。
2.多层感知器
多层感知器是一种层状结构有前馈神经网络,它由输入层,输出层,一个或多个隐蔽层(hidden layer)组成,隐蔽层也称为中间层,每个节点只与邻层节点相连接,同一层间的节点不相连。一个三层感知器可产生任意复杂的判定区,多层感知器使用的激活函数是S型函数。按训练方法多层感知器属于监督学习型,训练方法多采用误差反传播算法,简称BP算法。
3.误差反传播算法
函数(costfunction)最小化,估价函数等于期望输出与网络实际输出差的平方和。只有对应当前输出所属类的那个输出节点的期望输出是1.0,其余所有输出节点期望输出是0.0。网络训练时,开始取一些小的随机数(计算机自动生成),以这些随机数作为网络内部各个节点之间连接的权系数和各个节点上的阈值的初始值,然后,输入所有训练样本数据,根据网络求得输出结果,计算实际输出与期望输出的差值,并按照一定的规则,不断地修改节点间的连接权系数和节点内部的阈值,反复这一过程,直至权值收敛,并使估价函数降至可接收值。研究指出,真正的梯度下降法要求采取无穷小步长,权值改变的比例常数是学习率,学习率越大,权值改变量越大,网络收敛速度越快,但学习率大会产生震荡。为了增大学习率而不导致振荡,可增加一个冲量项(momentum term)。
4.神经网络油气预测
本次研究对三维地震资料进行了层位标定和构造解释,在构造解释的基础上分别提取地震属性,按其XY坐标重新进行网格化,将所提地震属性合并为一个整体。
该工区面积为1272平方千米,测线号1977-4639,共2664线,样点数为1905242点。预测层位为孔二段(EK2)。根据所选样本射孔井段深度及其试油结论,落实该段的含油气井和干井。统计结果表明:
在EK2内选择45口 (g107x1、g108、g143、g146x1、g2209、g61、g63、g68、g87、g89、g95、g996、g998、g999、n18、n20、n21、n22x1、n24、n59、n63、n69、n70、n73、n89、n91、wu7、y23、z19、z23、z25、z28、z31、z32、z34、z45、z46、z48、z49、z50、z52、z87、z88、z89、zx58)含油气井;
应用神经网络进行油气预测,首先应用Landmark软件提取地震层位属性,其后的实现步骤为:
①将每个地震属性在工区范围内作归一化处理,在此基础上可获得每一个地震道对应的地震属性样本。
②根据试油结论、地质分层数据表、射孔井段、井口坐标和井斜数据制作各砂层组和各井在该砂层组内的含油气性数据表,以便生成供神经网络学习用的训练样本集。上述数据及地震解释层位数据的可靠性都将影响预测结果准确性。
③训练样本集构成的参考原则:选取部分井旁样本组成训练样本集,留一部分井作为检验井,考核预测结果的可靠性。具体做法是:以射孔井段处的井下坐标在地面上的投影为原点,在指定的搜索半径范围内和指定产油气井旁抽取若干个样本作为含油气样本子集;在产油气井周边选择部分无油气井、并在无油气井旁抽取若干个样本作为无油气样本子集;将这两个样本子集合并在一起,便生成了训练样本集。
④将训练样本集提交给神经网络,让神经网络学会有油气和无油气的分类方法,即计算神经网络节点间的权系数。
⑤对工区内逐个样本进行分类,从而得到油气预测平面分布图。
EK2训练样本集是由含油气样本和干样本两个子集构成,从45口产油气井旁各抽取1-2个样本(其中g998、n20、n70抽取了两个样本),组成48个含油气样本,又从c14、g129、z37等22口干井旁各抽取1-4个样本(其中c14、g136、g137、g139、g157、g158、g194、jia6、x6、x7、y11抽取了2个样本,g128、g9、g990、wu15、z37抽取了3个样本,wucan1抽取了4个样本)组成48个干井样本,该层训练样本集的样本总数为含油气样本和干样本之和(96)。生成的训练样本集供神经网学习,“学习成绩”可以用不在训练样本集中井的含油气性来评判,即EK2的训练样本集共用67口井,用余下123口井(其中35口井为含油气井,其余88口井为干井)的含油气性来评价预测结果的可靠性。得到了EK2的油气预测图及顶面构造(等值线)与该层的油气预测叠合图。训练样本集选用了45口含油气井和22口干井,其余123口井作为验证井,EK2油气预测成果图(图7-9)显示,除了少数油气井(如g120、w38)在油气预测含油气边界处外,其余33口井均得到很好的验证,表明预测结果具有较高的符合程度(即符合度为33/35*100%=94%)。
5.结论
本次研究对三维地震资料进行了层位标定和构造解释,神经网络对工区内逐个样本进行分类,从而得到油气预测平面分布图。从分析结果看出,EK2含油气的地方,其预测值大部分都落在0.5至1的范围内,油气预测成果图展示了含油气区域的有利范围。从此次研究上看来利用神经网络预测油气是可行的。
参考文献
[1] 林畅松,李思田,任建业,断陷湖盆层序地层研究和计算机模拟――以二连盆地乌里雅斯太断陷为例,地学前缘,1995,2(3):124-132
【关键词】BP神经网络;遗传算法;变压器;故障诊断
1 引言
变压器作为电力系统重要的变电设备,其运行状态直接影响到供电的可靠性和整个系统的正常运行。一旦发生事故,将对电力系统和终端用户造成严重的影响。因此研究变压器故障诊断技术,对电力系统安全运行有着重要的现实意义。
对变压器油中溶解气体进行色谱分析(DGA)是变压器内部故障诊断的一种重要的手段。基于此技术,采用具有高度的非线性映射以及自组织、自学习能力的人工神经网络,现阶段在进行故障诊断时多采用BP神经网络。BP算法是基于梯度的方法,容易陷入局部极小值,且收敛速度慢。GA遗传算法的发展为我们提供了一个全局的、稳健的搜索优化方法,本文充分利用GA具有不受函数可微与连续的制约,并且能达到全局最优的特点,由GA寻找最优的BP网络权值与相应节点的阈值,并加入动量因子,此方法弥补了传统优化方法的不足,极大地改善了BP网络的性能。
2 BP神经网络及遗传算法原理
2.1 BP神经网络的基本原理
BP神经网络是一种利用反向传播训练算法的前馈型神经网络,BP学习算法基本原理是梯度最速下降法,中心思想是调整权值使网络总误差最小,即采用梯度搜索技术,以使其网络的实际输出值与期望输出值的误差均方值为最小。
BP学习算法包括前向传播和误差反向传播两个学习阶段。当给定网络的一个输入模式时,输入信号经隐层逐层处理后传到输出层,并由输出层处理后产生一个输出模式,称为前向传播;当输出响应与期望的输出模式有误差时,则转入误差反向传播。即将误差值沿原来的连接通路逐层反向传播直至输入层,并修正各层连接权值。对于给定的一组训练模式,不断地重复前向传播和误差反向传播的过程,通过沿途修改各层神经元间的连接权和神经元阈值使得误差达到最小。当各个训练模式都满足要求时,就说BP网络已学习好。BP神经网络模型的基本结构如图1。
2.2 附加动量的BP神经网络
传统的BP神经网络训练在修正权值时,是按着k时刻的负梯度方式进行修正,而忽略了之前积累的经验,导致权值的学习过程发生振荡,收敛缓慢。因此提出加入动量因子a,此时k+1时刻的权值为:
附加动量法总是力图使同一梯度方向上的修正量增加。这种方法加速了收敛速度,并在一定程度上减小了陷入局部极小的概率。
2.3 GA遗传算法的基本原理
GA是模拟自然界优胜劣汰的进化现象,把搜索空间映射为遗传空间,把可能的解编码成一个向量(染色体),向量的每个元素称为基因。通过不断计算各染色体的适应值,选择最好的染色体,获得最优解。
首先把问题解用遗传表示出来,在对种群中的个体进行逐个解码并根据目标函数计算其适应值。根据适应值的大小而决定某些个体是否得以存活的操作,把适应值高的个体取出复制再生,再将两个个体的某些部分互换并重新组合而成新的个体,经过交叉后随机地改变个体的某些基因位从而产生新的染色体。这样的过程反复循环,经过若干代后,算法就收敛到一个最优的个体,问题最终获得全局最优解。GA流程图如图2所示:
3 GA优化BP神经网络的变压器故障诊断模型设计
GA-BP算法主要思想是:先利用神经网络试探出最好的网络的隐层节点数,再利用遗传算法在整体寻优的特点将网络的权值优化到一个较小的范围,进而用BP算法继续优化。
3.1 BP网络的建立
(1)输入模式的确定
本文为了充分利用在线监测中的特征气体而又不使输入量过大,特取C2H2/C2H4、C2H4/C2H6、CH4/H2的比值归一后作为输入矢量。
(2)输出模式的确定
本文对输出层采用正常、低温过热、中温过热、高温过热、局部放电、低能放电、高能放电共7个神经元。输出值最大为l,数值越大则表明该类型的故障的可能性和严重程度也越大,如表2.1:
(3)隐含层神经元数确定
本文参考关于隐含层神经元数的理论研究和经验公式,获得理论值为5~15。再利用matlab 软件,通过试凑法对网络进行训练,将隐层节点设置为6、8、10、12、14,将其输入计算机,在相同训练条件下进行训练,得知隐层节点数为12时网络收敛性能好,收敛时间较短。故选节点数为12。
综上所述,本文构建一个输入层为3,隐含层为12,输出层为7的BP神经网络。
3.2 GA对BP网络进行优化
(1)初始化种群P、以及权值、阈值初始化;在编码中,采用实数进行编码,本文初始种群取30;
(2)计算每一个个体评价函数,并将其排序;可按下式概率值选择网络个体:
其中 i为染色体个数,k为输出层节点数,YK为训练值,P为学习样本数,T为期望目标值;
(3)进行选择复制、交叉、变异遗传操作;
(4)将新个体插入到种群P中,并计算新个体的评价函数;
(5)计算BP的误差平方和,若达到预定值则进行BP神经网络的训练,否则重复进行遗传操作;
(6)结束GA操作,以GA遗传出的优化初值作为初始权值,运用BP神经网络进行训练,计算其误差,并不断修改其权值和阈值,直至满足精度要求,此时说明BP网络已经训练好,保存网络权值和阈值。
4 故障诊断系统的仿真
本文选取了具有代表性的30组作为训练样本, 在建立的GA-BP变压器故障诊断网络中输入样本进行训练,其遗传算法适应度曲线、误差平方和曲线和GA-BP的训练目标曲线图分别见图3、图4和图5。
从图中可以看出,适应度较高的个体被遗传了下来,适应度较低的则被淘汰;GA进行了150代的遗传操作达到了目标值;GA-BP算法进行了106步左右就收敛到指定精度0.0005。由此看出,此GA优化BP建立的变压器故障诊断模型的收敛精度和收敛速度都比较高。
采用实际检测到的10组电力变压器故障实例(表2)来验证网络性能,神经网络诊断结果和实际故障结果的比较,如表3所示:
由表3可见,基于遗传算法优化BP神经网络的变压器故障诊断系统在故障诊断中达到了很高的准确率,能较好地满足变压器故障诊断的要求,极大的提高了诊断的可靠性和准确性。
5 结束语
文中将遗传算法与BP网络相结合,在DGA的基础上设计了适用于变压器故障诊断的3-12-7结构的BP神经网络。先对网络的权值阈值进行GA算法处理,并在传统的BP算法中加入动量因子,通过MATLAB编程实现了GA优化BP网络。通过仿真分析可知GA优化BP网络收敛性能的提高改善了BP网络的学习效率,并在下一步的诊断工作中体现其高准确率,推广了此优化网络在变压器故障诊断的实用性。
参考文献:
[1]张绪锦,谭剑波,韩江洪.基于BP神经网络的故障诊断方法[J].系统工程理论与实践,2002(6).
[2]王少芳,蔡金锭.GA―BP混合算法在变压器色谱诊断法中的应用[J].高电压技术,2003(7).
[3]郑高,戴玉松.人工智能方法在变压器故障诊断中的应用[J].四川工业学院报,2004 (5).
[4]李国勇.智能控制机器MATLAB实现[M].电子工业出版社,2005.
[5]徐志钮,律方成.多神经网络方法在变压器油色谱故障诊断中的应用[J].高压电器,2005(3).