BP网络与SPSS统计分析软件预测建模方法研究(PDF 72页)

昆明理工大学硕士学位BP网络与SPSS统计分析软件相结合的选矿厂预测建模方法研究姓名：彭芬兰申请学位级别：硕士专业：矿物加工工程指导教师：戈保梁20031231昆明理工人学硕士学位论文摘要摘要随着我国社会主义市场经济体制的建立和对外开放力度的不断加强，我国加入世贸组织的新形势，丌采矿产资源的着眼点不再是只局限于国内，而要面向世界。人]：神经网络作为一门新兴的科学，企业适应不失为一种新的数据处理方法。选矿过程数学模型主要用于选矿过程分析、选矿工艺最佳设计和选矿过程控制等方面，但是许多选矿过程相当复杂，影响因素很多，难于从理论上建立符合实际情况的选矿数学模型，必须寻求一种新的建模方法来实现选矿过程的数据处理，人工神经网络作为～门新兴的科学，企业适应不失为一种新的数据处理方法。BP神经网络是一种高度非线性映射模型，对于逼近复杂的非线性系统具有优越的性能，为复杂过程的建模提供了一种可供选择的方法。在实际选矿过程中，尤其是在磨矿分级过程中影响因素很多，各因素之间必然存在着某种关系，而理论上BP神经网络要求输入变量和输出变量之间应是线性无关的，因此本文采用SPSS中的回归分析将存在相关关系的输入变量和输出变量转化为无相关关系的输入变量和输出变量，再进行BP网络建模，确定最佳的网络拓扑结构。但要想建立实用的BP模型，不仅仅要选择最佳的网络拓扑结构，还要选择合理的网络训练终止方式，本文在回归分析与BP神经网络相结合进行选矿建模基础上对网络采用“早终止”的训练终止方式，大大提高了所建模型的精确度。本文的有关研究提高了选矿建模质量，丰富了复杂非线性建模的理论、方法和实践。关键词：人工神经网络数学模型回归分析早终止SPSS统计分析软件垦型些三查堂堡主堂堕堕苎————————型笙旦!垒!二ABSTRACTWiththebuildingofthesocialmarketecologysystemandincreasingstrengtheningouropenpolicyandthenewconditionofourcountryjoiningtheWTO，themineralresourceofourcountryisnomorelimitindomestic，butwemustfacetheworld．Mineralprocessingmathematicsmodelusesspeciallyinmineralprocessinganalysisandgoodmineralprocessingprocessdesignandmineralprocessingcontrollingetc．Wehavedifficulttobuildamineralprocessingmodeloffittingconditionbecausemanymineralprocessingareverycomplexandhavemanyinfluentfactors，SOwemustfindanewbuildingmodelmethodtorealizedataprocessingofmineralprocessing．Artificialneuralnetworkasanewscientist，itisanewdataprocessingmethodformineralcorporation．BPneuralnetworkisahighnonlinearmodel，ithasasuperiorperformanceforapproachingthecomplexnonlinearsystemanditoffersamethodtochooseforbuildingmodelofcomplexprocess．Inthemineralprocessing(speciallyingrinding—classify)，therehavemanyinflucntfactors，andeachfactorhassomeconnection，howeverwerequirelinearindependencebetweeninputvariablesandoutputvariablesforBPnetworkintheory．SotheauthorusesregressionanalysisofSPSS(StatisticalPackagefortheSocialScience)tochangethedefiniteconnectionintolinearindependenceforinputvariablesandoutputvariables，atlastwebuildmodelwithBPnetwork．IfwewantbuildapracticalBPmodel，wemustchoosenotonlyabestnetworkconstructbutalsoareasonablemethodofnetworkstoppingtraining，thearticleusesearlystoppingmethodbasedonthebuildingmineralprocessingmodelofthecombinationregressionanalysisandBPnetwork，abestpreciseisachievedforbuildingmodel．Whattheauthorhasdonecanimprovethequalityofbuildingmineralprocessingmodel，andcanenrichthetheory、methods&practiceofcomplexlI昆明理工大学硕士学位论文ABSTRACTnonlinearbuildingmodel．Keywords：artificialneuralnetwork；mathematicsmodel；regressionanalysis；earlystopping；SPSS(StatisticalPackagefortheSocialScience)．¨昆明理工大学学位论文原创性声明y‘669272本人郑重声明：所呈交的学位论文，是本人在导师的指导下(或我个人⋯)进行研究工作所取得的成果。除文中已经注明引用的内容外，本论文不含任何其他个人或集体己经发表或撰写过的研究成果。列本文的研究做出重要贡献的个人或集体，均已在论文中作了明确的说明并表示了谢意。本声明的法律结果由本人承担。学位论文作者签名：骜茎兰目期：泖≯年0月够日关于论文使用授权的说明本人完全了解昆明理工大学有关保留、使用学位论文的规定，即：学校有权保留、送交论文的复印件，允许论文被查阅，学校可以公布论文的全部或部分内容，可以采用影印或其他复制手段保存论文。跏⋯谜，导师签名．一，筮。!!f匕z上7论文作者签名：蟊：釜兰日期：v加够年弓月。日昆明理工_人学硕上学位论文第章文献综述和论文的选题第一章文献综述和论文选题的意义1．1人工神经网络的简介及发展状况1．1．1概述人工神经网络(ArtificialNeuralNetworks)是以工程技术手段，模拟人脑神经元网络结构与功能的系统，由大量的简单的非线性处理单元组成。人工神经网络是在研究生物神经系统的启发下发展起来的一门新兴的信息处理科学，它以人的大脑工作模式为基础，研究自适应的、非线性的和模糊的信息处理【1]。人工神经网络通过网络中神经元群体的相互作用来体现它自身的处理功能。人工神经网络通过过去的经验来学习，可以处理模糊的、非线性的、含有噪声的资料，特别适用于处理非线性问题，因而在模式识别、图像处理和自动控制等领域获得了广泛应用和显著效果，显示出其强大的生命力和广阔的应用前景f2j。人工神经网络是由大量称之为节点或神经元的简单处理单元相互连接而形成的一个大规模的信息处理系统。根据连接方式不同，神经网络可分成两大类：没有反馈的前向网络和相互结合型网络。前向网络由输入层、中间层(隐层)、输出层组成。在前向网络中，误差反向传播网络(Back--Propagation)BP网络应用最广。人工神经网络主要从总体结构和功能上模仿人脑，不是逼真的细节重现，而且更注重神经活动中的信息流及其运动方式。每个手中经元都是1个独立的信息处理单元，分别对各自接收到的信息作独立运算处理(而不是直接从记忆中取出)，然后把结果传输出去。这种分布式存储可使系统在部分受到输入层中间层输出层图1．1典型的神经网络YY2Y强№xx昆明理工火学硕_：L学位论文第一章文献综述和论文的选题损坏时仍能恢复出原来的信息，因此具有较强的容错能力和联想记忆的特点；同时由于神经网络的信息处理是非程序式的，可根据外部的某个准则进行学习，因而具有自组织、自学习、自适应的特点。图1．1是典型的神经网络的连接形式[31。由图1．1可知，神经网络的基本要素是人工神经元，图中x1，X2，x3，⋯，J．为第i个神经元的输入信号，彬，0=1，2，⋯，n)为第J个神经元(或输入节点)到第i个神经元的联接权重，Z为神经元i的输出。于是每个人工神经元的数学模型可表示如下：Net。=∑％X，一只(1一1)S．=g(Net，)(1—2)Z=f(s。)(1—3)其中，式(1～1)表示神经元i的突触后的电位的累加值，Net．为该神经元的净输入，0，为神经元的阈值；式(1—2)为该神经元的状态方程，s，为神经元i的状态：式(1—3)为神经元的输出方程。1．1．2人工神经网络的基本原理人工神经网络是由大量处理单元组成的非线性大规模自适应动力系统。它是在现代神经科学研究成果的基础上提出的，试图通过模拟大脑神经网络处理、记忆信息的方式设计一种新的机器使之具有人脑的信息处理能力。为了模拟大脑信息处理的机理，人工神经网络具有以下基本属性【4】：(1)非线性非线性关系是自然界的普遍特性。大脑的智慧就是一种非线性现象。人工神经元处于激活或抑制两种不同的状态，这种行为在数学上表现为一种非线性关系。(2)非局域性一个神经网络通常由多个神经元广泛连接而成。一个系统的整体行为不仅取决于单个神经元的特征，而且可能主要由单元之间的相互作用、相互连接所决定。通过单元之间的大量连接模拟大脑的非局域性。联想记忆是非局域性的例子。(3)非定常性人工神经网络具有白适应性、自组织、自学习能力。神经网络不但处理的信息可以有各种变化，而且在处理信息的同时，非线性动力系统本身也在不断地变化。2昆明理工大学硕士学位论文第一章文献综述和论文的选题(4)非凸性一个系统的演化方向，在一定条件下将取决于每个特定的状态，例如能量函数，它的极值相应于系统比较稳定的状态。非凸性是指这种函数有多个极值，故系统具有多个较稳定的平衡态，这将导致系统演化的多样化。人工神经网络模型是一种并行分布处理模型，主要探索认知过程的微结构，也就是说，在网络层次1-模拟人的认知活动。一个模型相当于一个神经网络，通常一个模型解决一个问题。因此模型必然是多种多样的，它们之间必然有许多共同的特性，因此有必要给出一个能包容所有具体模型的总体框架，作为我们了解神经信息处理的基础。我们可以用以下八个方面【51来介绍一个网络模型。(1)处理单元任何一个并行模型，都是从一组处理单元着手建立起来的。在任何一个我们要建立模型的系统中，把单元分成输入单元、输出单元、隐单元三类。输入单元接收来自系统外部的输入信号。输出单元向系统外部发送信号。隐单元是输入、输出单元都在建模系统内部的那些单元，从系统外部是看不到隐单元的。(2)激活状态除确定一组处理单元外，我们还必须把系统在时刻t的状态表达清楚。系统的状态由一个N维实向量a(t)指定，它表示处理单元集上的激活模式。不同模型对其单元激活的取值范围不相同。(3)单元输出单元之间存在着相互作用，这是由相邻单元之间的信号传送造成的。每一个单元都有一个输出函数，(q(r))。(4)连接模式单元之间是相互连接的。正是这种连接模式，构成了系统的知识，决定了系统对任一个输入的响应方式。连接模式是极其熏要的，正是因为这种模式决定每个单元表达的是什么东西。(5)传递规则把输出向量和连接矩阵结合起来，使各类输入进入单元以产生净输入的规则，叫做传递规则。(6)激活规则把某一一特定单元的各类净输入互相结合起来，再和该单元的当前状态结合起来，以产生一个新的激活状态的规则，叫做激活规则。(7)学习规则在神经网络中，学习规则可分为有导师学习和无导师学习。(8)工作环境任何一种神经网络模型，至关重要的一点，是对它所处的工作环境有一个清晰的模型。在神经网络中，一般是用输入模昆明理工大学硕士学位论文第一章文献综述和论文的选题式空间上的一个时变函数来表达环境的，也就是说，在任一时刻，任何一个可能的输入模式都会以某个概率进入输入单元。1．1．3人工神经网络的基本功能构成人工神经网络的目的往往是为了实现下列某种功能【61：(1)联想记忆(associativememory简写作AM)假定有M个样本矢量x(“】，其中s=O，1，2，⋯，M一1，若输入x’=x¨1)+△，Xul’表示第s1个样本，△是由于噪声、干扰或图形缺损等因素引起的偏差，要求输出Y=X【“)，也即去除偏差使信号按样本复元。系统具有的这种功能称为“联想记忆”(或“协同记忆”)。联想记忆可划分自联想(AutoAM)与异联想(HeteroAM)两种类型。自联想功能如上所述。异联想功能涉及两组样本，若样本x【3’与样本Z(8)一一对应，当具有偏差的输入信号为X7=x(sl’+A时，输出Y=z(8”，，此功能称为异联想。例如样本x为一组照片，而样本z是对应的姓名。(2)分类(classifier)假定系统输入x有M类样本，样本元素为N，输出y。相应于M类样本之一，k=0，1，2，⋯Ml。x与Y的关系示意如图1．2，对于x∈R．则r1当k-j(1—4)Yi={L0当k≠j此关系式表明，当输入样本与样本匹配即可归类，系统完成分类功能。VnylYMl昆明理工大学硕士学位论文第章文献综述和论文的选题1．1．4人工神经网络的研究内容及发展状况神经网络的研究内容相当广泛，反映了多学科交义技术领域的特点，目前，主要的研究工作集中在以下几个方面f7】[81。(1)生物原型研究：从生理学、心理学、解剖学、脑科学、病理学等生物科学方面研究神经细胞、神经网络、神经系统的生物原型结构及其功能机理。(2)建立理论模型：根据生物原型的研究，建立神经元，神经网络的理论模型。其中包括概念模型、知识模型、物理化学模型、数学模型等。(3)网络模型与算法研究：在理论模型研究的基础卜-构作具体的神经删络模型，以实现计算机模拟或准备制作硬件，包括网络学习算法的研究。(4)人工神经网络应用系统：在网络模型与算法研究的基础上，利用人工神经网络组成实际的应用系统。神经网络理论研究可追溯到20世纪40年代，当时一些神经科学家、生理学家对人脑神经元的电生理方面做了不少工作。1943年，心理学家麦克洛奇(McCulloch)和逻辑学家皮兹(Pitts)提出了MP神经网络【9】的数学模型。1949年心理学家赫布(Hebb)提出了突触联系强度可变的假设【l01。1957年罗森勃拉特(Rosenblat)提出的感知机(Perceptron)模型是该领域的一个重要进展，第一次把神经网络研究从理论的探讨付诸工程实现，掀起神经网络研究的第一次高潮⋯1。1962年威得罗(Widrow)提出了自适应线形元件(Adaline)，它是连续取值的线形网络，主要用于自适应系统。20世纪70年代末，芬兰电子工程师科霍南(Kohonen)提出了联想记忆理论{日本NHK的福导邦彦(Fukushima)，美国波士顿大学的格罗斯伯格(Grossberg)关于感知觉的共振适应理论；日本甘利俊(S．Amari)关于神经网络有关数学理论的研究：安德森(Anderson)提出了盒中脑(BSB)模型。20世纪80年代以来，有关神经网络研究进展非常迅速。1982年美国加洲工学院物理学家霍普菲尔特(Hopfield)的工作被称为是突破性的“⋯。。。1985年欣顿(Hindon)和塞杰诺斯基(Sejnowsky)提出了一个可行昆明理工大学硕士学位论文第一章文献综述和论文的选题算法，称为玻尔兹曼机(Boltzmann)模型。1986年，鲁梅尔哈特(1{umellart)和麦克莱伦德(MoCIe11and)等人提出并行分布处理(ParallelDistributedProcessing，简称PDP)”“的理论，致力于认知的微观结构的探索，并提出了多层网络的误差传播学习法，或称反传(BackPropagatioN，简称BP)算法。这种算法根据学习的误差大小，从后向前修正层次之间的连接权值。通过不断的学习和修正，可以使网络的学习误差达到最小。反传算法从实践上证明神经网络的运算能力很强，可以解决许多具体问题。自80年代中期以来，世界上许多国家都掀起了神经网络的研究热潮，从1985年开始，专门讨论神经网络的学术会议规模逐步扩大。1987年在美国召开了第一届神经网络国际会议，并发起成立国际神经网络学会(INNS)。在国际研究热潮的推动下，我国在神经网络这个新兴的研究领域取得了一些研究成果，几年来形成了一支多学科的研究成果，组织了不同层次的讨论会。1986年中国科学院召开了“脑工作原理讨论会”。】989年在北京大学召开了“识别和学习国际学术讨论会”。1990年10月中国自动化学会、中国计算机学会、中国心理学会、中国电子学会等八个学会联合召开了“中国神经网络首届学术大会”。许多单位开展了神经网络和神经科学的基础研究和应用开发，取得了一定进展。随着神经嘲络本身在理论和实践方面的不断发展完善，将为它们的实际应用开辟更新更广阔的天地。1．2人工神经网络在选矿中的应用随着科学技术的发展，对工程问题研究的要求越来越高。传统工作方法在选矿工作中越来越不能满足实际的需要。尤其是在处理大量数据时更是如此。近年来，随着计算机技术的发展，各种优化方法在选矿中得到广泛应用，20世纪90年代，人工神经网络引入选矿建模，弥补了传统数理统计方法的不足。人工神经网络在选矿领域的应用主要有水力旋流器，磨矿回路，浮选回路，碳金浸出过程。目前应用最广的神经网络是BP模型。BP神经网络由于其高度非线性映射的能力，现已在各种领域里得到了广泛应用。中南工业大学的景广军、周贤渭、李松仁f15I在《神经网络在建立螺旋分级机数学模型中的应用》中应用神经网络技昆明理工大学石贞士学俯论文第一章文献综述和论文的选题术，以较少的实验工作量，建立了高精度的变量间的非线性映射模型，取得了满意的效果。中南工业大学向发柱、何平波、陈荩116]在《用人1：神经网络建立高梯度磁选过程模型及其模拟研究》中用人工神经网络建立了高梯度磁选过程模型，对不同隐层节点数的神经网络模型的预测性能作了：利用选择的最终模型，对高梯度磁选过程的模拟研究表明，该模型可在相当宽广的操传范围内取得较好的预测结果，这说明所建立的模型是合理的、可行的。昆明理工大学王德燕ll7j利用神经网络BP模型建立各种指标与影响因素之间的非线性映射，建立起来的网络模型反映了变量之间的相互关系，有较好的预测效果。BP网络的输入变量之间或输出之间应是线性无关的，而选矿厂数学建模中，输入变量之间或输出变量之间往往存在着相关关系，磨矿分级过程影响因素多，过程复杂，内部参数还不能进行有效的检测，因此用传统的方法很难建立数学模型，针对这一复杂过程，中南工业大学的张守元Il8j引入一种新的预测控制算法。利用计算机仿真对分级机溢流浓度控制系统进行了初步研究和探讨。仿真结果表明，预测控制在选矿领域的应用具有广阔的前景。张晓东【191等人结合选矿厂磨矿分级作业的实际工矿，提出了基于RBF网络的粒度软测量的设计方法。实际试验结果表明，该方法能够解决选矿生产中磨矿粒度因缺乏适当的检测设备而存在的难以进行在线检测的问题。1．3SPSS统计分析软件简介及应用1．3．1SPSS统计分析软件简介1201SPSS(StatisticsPackageforSocialScience)forWindows名为“社会科学用统计软件包”，是一个使用于自然科学、社会科学各领域的统计分析软件包，是世界上流行的统计软件。近几年来，我国的医疗卫生、体育、经济领域的科研工作者开始使用该软件进行研究工作。SPSS是⋯个组合式软件包，它集数据整理、分析功能于一身。用户可以根据实际需要和计算机的功能选择模块，以降低对系统硬盘容量的要求。它使用Windows的窗口方式展示各种管理和分析数据方法的功能。使用对话框展示出各昆明理工大学硕士学位论文第一章文献综述和论文的选题种功能选择项，故而清晰、直观、易学易用，只要掌握一定的Windows操作技能，粗通统计分析原理，就可以使用该软件为特定的科研工作服务。由于具有强大的图形功能，使用该软件不但可以得到分析后的数字结果，还可以得到直观、清晰、漂亮的统计图，对原始数据形象地作出各种描述。1．3．2SPSSforWindows的特点由于sPSSforWindows具有Windows软件的共同特点。要完成对数据的统计分析工作，对统计分析来说以下特点会使它很快得到推广。(1)除数据输入工作需要使用键盘完成外，大多数操作是通过“菜单”、“图形按钮”、“对话框”来完成的。因此操作简便，易于学习、易于使用。(2)SPSS的命令语句、子命令及选择绝大部分由“对话框”的操作完成。因此用户无需花大量时间记忆大量的命令、过程、选择项等等。(3)对于常见的统计分析方法完全可以通过对“菜单”、“对话框”的操作完成，因此也无需编写程序。(4)具有第四代语言的特点，只要通过菜单的选择，对话框的操作告诉系统要做什么，无需告之怎样做。只要粗通统计分析原理，无需通晓统计分析的各种算法，即可得到统计分析结果。(5)该软件系统的组合结构使用户有可能根据自己的分析工作的需要，根据计算机设备的实际情况选择、装备模块。(6)与其他软件有数据转换接口，其他软件生成的数据文件，例如，关系数据库生成的DBF文件，或用文本编辑软件生成的ASCII码数据文件均可方便地转换成可供分析的SPSS的数据文件。(7)分析方法丰富，提供了从简单描述统计分析到多因素分析统计分析方法。还有很强的图表生成、编辑功能。1．3．3SPSS软件中的相关分析和回归分析SPSSforwindows统计分析软件包括多种分析方法，如相关分析、因子分析、回归分析方差分析，本文主要介绍相关分析和回归分析用于8昆明理工大学硕士学位论文第‘章文献综述和论文的选题选矿建模。相关分析和回归分析是分析现象间联系形态和密切程度的数学方法。在对数量的分析中往往会看到变量之间存在着一定的相关关系，例如：某产品的价格和社会对该产品的需要之间、人的身高与体重之间都有密切的关系，但可能它们之间并不存在着显著而又确定的关系，而可能是其它各种因素作用的结果。研究变量之间相互关系密切程度的分析称为相关分析。如果在研究变量之间的相关关系时，把其中的一些因素作为所控制的变量，而另一些随机变量作为它们的因变量，这种关系分析就称为回归分析。在回归分析过程中包括：线性回归、曲线估计、逻辑回归、概率回归、非线性回归、加权估计、最小二乘法。1。4选矿厂的数学建模1．4．1数学建模1211的概念最近几十年来，随着各门科学技术，特别是计算机科学的不断进步，数学的应用不仅在它的传统领域(所谓物理领域如力学、电学等学科以及机电、土木、化工等工程技术)中取得了许多重要进展，而且迅速地进入了一些新领域(所谓非物理领域如经济、交通、生态、医学、人口、社会)。今天，数学在提高技术、发展生产、搞好经济管理，以及发展各门自然科学甚至某些社会科学中的重要性已经日益被人们所认识‘221。关于数学模型(MathematicalModel)这一概念各种说法大同小异．一般地说，数学模型可以描述为对于一个特定的对象为了一个特定目标，根据特有的内在规律，做出一些必要的简化假设，运用适当的数学工具，得到的一个数学结构。“特定对象”表明了数学模型的应用性，即它是为解决某个实际问题而提出的。“特定目的”表明了它的功能性，即当研究一个特定对象时，不是笼统地研究，而是为实现特别的功能而研究；不是研究它的一切特点，而是只研究当时所关心的那些特征，研究可以局限于所要达到的特定目的，如分析、决策、控制、预测等。“根据事物的内在规律作出必要的假设”表明了数学模型的抽象性，所谓抽象，就是从事物的现象中将那些最本质的东西提炼出来，为了提炼本质的东西，9丝塑婴三查堂塑主兰堡堡兰笙二皇兰堕鳖堕塑兰苎塑丝堕当然要作一些必要的假设，并对非本质的东西进行简化。数学模型由于过程的多样化和建立模型的目的要求不同，模型的分类‘231也随之变化。从过程的时间因素考虑，为达到过程控制目的而建立的模型，常分为静态和动态两类。从数学模型建立的根据来分类，可分为经验和理论两大类。建模完成t是7实际问题＼人、／宙／＼1．<是否符合11＼／◆●l简化假设检验验证I上下建立模型求解模型上t图1．3建模过程数学建模就是在实际问题中，采用严格意义下的数学思维方式，针对特定问题的特定目的进行必要的简化、假设，选取适当的数学工具进行研究，其中关键的思想方法就是通过对现实问题的观察、归纳、假设。将其转化为数学问题。但这只是完成了数学建模的第一步，作为完整的数学建模过程还需求解数学问题，得到所求的解。在实际问题中，看是否能解释实际问题，是否与实际经验或数据相吻合，若吻合数学建模过程就完成了，否则还需修正假设并重新提出经修正的数学模型，直至满意为止。数学建模可以表示为图1．3的一个过程。昆明理工人学硕士学位论文第一章文献综述和论文的选题1．4．2回归分析的数学模型前面已经对回归分析作了一个简单的介绍，回归分析m1就是通过试验和观测，去寻找隐藏在变量间的统计关系的一种数学方法。设我们要研究变量Y与X之间的统计关系，希望找出Y的值是如何随X的值的变化而变化的规律。这时称Y为因变量，X为自变量。通常X被认为是非随机变量，它可以精确测量或严格控制的。Y是一个随机变量，这是可观测的，但存在测量误差，于是Y与X的关系可表示为：y2f(x)+￡(1—5)其中￡是一切随机因素影响的总和，有时也简称为随机误差。通常假设￡满足：E(￡)=O，D(￡)=a2，其中E(￡)代表随机过程的均值，D(￡)代表随机过程的方差。由(1—5)得到：E(y)=f(x)(1—6)(1—6)式称为理论回归方程。由于f(x)的函数形式未知，或者f(X)中含有未知参数，故理论回归方程一般无法直接得出。为了得到理论回归方程的近似表达，通常先对f(x)的函数形式作出假定，然后通过观测得到关于(Y，x)的观测数据，并利用这些观测数据来估计出f(x)中的未知参数，得到经验回归方程：、Y’2f(x)(1—7)(1—7)又称为回归方程。f(x)称为Y对x的回归函数。当假定f是线性函数时，(1—7)称为线性回归方程，并且当X分别是一元或多元变量时，(1—7)分别称为一元或多元线性回归方程。1．4．3数学建模在选矿中的应用选矿过程是很复杂的，它受很多因素的制约，首先选矿处理的对象一原料的性质就是一个变动不居的因素。因此选矿数学模型的研究与建立是一个复杂的课题，也是近些近年来选矿工作者重视和进行研究的一个重要领域。许多选矿工作者在这方面作了不少的工作，刘立【241基于模糊理论与昆明理工大学硕士学位论文筇一章文献综述和论文的选题神经网络相结合用于磨矿故障诊断达到了预期的效果。王淑红B5J等人运用人工神经嘲络的非线性建模在不同选别方法应用的优势与不足进行了理论分析。王泽红f26l采用四变量三水平的正交#设计#，利用多元回归分析方法，建立了球磨机有用功率的数学模型，讨论了介质充填率、磨矿浓度、料球比以及磨机转速率对球磨机有用功率的影响，为进一步研究球磨机有用功率在球磨机检测和自动控制中的应用奠定了基础。因此选矿数学模型的研究，对促进选矿工艺的发展，探寻选矿生产过程的最优化条件、选矿过程及设备的模拟放大，以及生产过程计算机的最优控制都有非常重要的作用【21l。1．5论文题目的提出随着我国社会主义市场经济体制的建立和对外开放力度的不断加强，以及加入世贸组织的新形势，我国开采矿产资源着眼点也不再只局限于国内，而要面向世界范围。对于我国的矿产企业来说，为了适应新的经济体制和面对国内外同行的激烈竞争，必须应用新理论、新方法、新技术来辅助企业的生产、管理和决策。人工神经网络作为一门新兴的科学，引起了国内外科研工作者的极大兴趣。许多科研工作者已经在这一方面作了大量的工作。然而，无论在国内或国外，神经网络技术在矿业中的应用尚属初级阶段，还需进一步完善和提高，尤其在磨矿过程中，各种影响因素很多，很难建立一个合适的模型。本文应用SPSS统计分析软件中的回归分析和神经网络相结合建立磨矿数学模型，可进一步弥补神经网络在建立选矿模型的不足之处，提高选矿建模的质量。12昆明理工大学硕士学位论文第二章BP网络程选矿建模中的应用第二章BP网络在选矿建模中的应用数学模型辩识【281主要包括确定模式结构、估计模型未知参数和检验模型效果三个内容，当采用人工神经网络进行模型辩识时，这三个内容就相应的变成网络拓扑结构的选择、学习训练以及网络泛化能力的检验。采用线性阈值单元组成的前馈多层网络，具有很强的分类能力。但由于阈值函数不可微，没有一种有效的学习算法，从而限制了该网络的应用。直到鲁姆尔哈特(Rmnelhart)等人发展了误差反向传播学习算法(BackpropagationTrainingAlgorithm)简称BP算法之后，前馈多层网络才取得了重大突破。运用BP学习算法的前馈多层网络，通常称为BP网络。由于这种网络具有很强的非线性映射能力，网络的结构简单，工作状态稳定，且易于硬件实现，是目前应用最广的一种人工神经网络。前面已经讲过了BP网络的结构，网络的所有神经元均采用非线性激活函数，于是神经元的模型为：rNet，=∑w，一一8，{S』=Net，。(2—1)Ly，=f(S，)其中非线性激活函数f(sj)是连续可微、单调t升的有界函数，通常使用的是S形函数：1，(s，)=÷i(2--2)图2．1所不。司见BP网络是一种静态网络。网rY，=，(∑w*ht—Oi)l=1⋯2⋯mfk=O1n，一ljhR=，(芝wHg厂吼)≈=o，1一．，n2．1I，；OI。lg．=，(∑％一一日，)，。o，1，“．，nl-1络各层神经元的输出为f(Si)静态网络的任何一种功能，都可用它的输入到输出之间的映射关系昆明理工大学硕士学位论文第二章BP网络在选矿建模中的应用来描述。2．1BP学习算法BP算法是一种有导师的学习算法。这种算法的实质是一种最小二乘算法的最陡下降法。它由正向传播与反向传播所组成。在正向传播阶段，学习样本送入输入层，经隐层逐层运算后，传至输出层。如果网络得不到期望的输出结果，网络的实际输出与期望输出之间存在误差，则进入误差反向传播阶段。这时误差信号沿原来的连接通道从输出层返回至输入层，并逐层调整连接权，以使误差达到最小。由于隐层的存在，输出层对产生误差的调整，必须通过改变隐层与输出层之间的连接权来实现，而隐层要能对输出层反传过来的误差，调整下一层与它之间的连接权，这是BP学习的一个重要特点。2．1．1算法的基本递推关系式F面以图1—1所不的前馈网络，介绍BP学习算法。设输入的学习样本有只个：一，x2，⋯⋯xn，对应的教师信号(即输出的期望值)为f1，f2，⋯⋯t“。我们用鼻这个样本对(xp，t，)。p=l，2⋯，Pi对网络进行训练。当第P个样本对输入到网络后，由式(2—3)可得正向传播阶段经各层运算后，网络的实际输出值Y19，1=1，2⋯．，m。将其与期望值相比较。则可得在第P个输入模式下输出方差为：E，=÷∑(，，”--ytp)2(2--4)若输入所有p1个样本对经正向传递运算后，则网络的总误差为：E∑。∑E，2寺芝∑(矿一Ylp)2(2--5)应用最陡下降法，反向调整各层连接权，NN差达NN,J、。设Ⅵ，为网络任意两个神经元之间的连接权。沿负梯度方向调整连接权则w。。的修正量为：峨一等一姜q象cz划4昆明理工大学硕士学位论文第二章F／．P网络在选矿建模中的应用没‰为迭代次数，应用梯度法可得网络各层连接权的迭代关系式为aEy，Ⅵ，m(‰+1)=w*(no)一”—等l∥w“j吲”1)_W扣0)_T1拿(2--7){～o。“)_～00)_T1寄)I。，。州一。、。扭∑o”一(‰+1)2w胁)一11≮笋式中等号右边的第二项，为各层连接权的修正量。各连接权的调整规律从输出层开始，逐次反向传播：由第二隐层至输出层的连接权修正量为：aEy、Aw*2一H—}舯一n等=兰p=l参c’wJL—m．”而厂(即)2嘉’丽1Ⅵ”(1-ylp)故Awtk=11∑81"h^9，=1，2，⋯，nl(2—8)其中：输出神经元的实际误差为：△，’=(t，9Y，”)；占，，为在第p个输入模式对下输出神经元，的等效误差，其值为：495-厂‘(sf”)(t，9Y，’)=厂’(s，9)A，9(2—9)q为学习率系数，其值⋯般为O．01～1。同理可得，第一一隐层至第二隐层的连接权修正量为：△％=q∑瓯”g，”(2—10)l=1，式中民9为在第P个输入模式对下“分摊”给第二隐层神经元k的等效误差，其值为：疋’2f。(马9)△一”(2～l1)n∑川=竖饥丝吖n∑一n=pI矗)Py一0Py昆明理工大学硕士学位论文第一j章BP网络在选矿建模中的应用其中A。”=∑f=1WW*(2—12)输入层与第一隐层的连接权修正量为：poAwⅣ=”∑万，9_9(2_13)，=l式中巧，’为在第P个输入模式对下“分摊”给第二隐层神经元j的等效误差，其值为：巧，”=厂‘(S，”)△，9(2——14)肌其中，A，92∑占．’wH(2—15)k=0综上分析可以看到：(1)BP网络连接权的调整按递推关系式进行。(2)等效误差由输出层向输入层反向传播。2．1。2算法的实现步骤下面以批处理方式，说明BP算法的具体实现步骤。整个网络的学习分为两个过程：正向传递过程与误差反向传播并调整连接权过程。这两个过程反复交替，直至连接权不再改变、网络输出误差达到精度要求为止。算法的具体步骤如下：(1)初始化各连接权(包括闽值)初值的设置，对网络学习的收敛性影响较大。希望设置的初值，使每个神经元的净输入值很小，以保证工作在激活函数变化较灵敏的区域，而且各连接权的初值为随机值。即设置各连接权初值为一小的随机数。(2)正向传递过程的计算(a)输入学习样本对(X9，t’)，p=l，2，⋯，Pl(b)对每个输入样本，按式(2—3)顺序计算各层神经元的输出值，即6昆明理工大学硕士学位论文第二章BPI；【：g络在选矿建模中的应用Y，’=厂(∑wtkhkP)h。kf(∑wtjg，”)g，％f(∑Wj，一’)误差反向传播Z=1⋯2⋯，n2k=0，1，．，nJ20，1，⋯，n从输出层至输入层，反向依次按式(2—9)，(2—1】)，和(2—14)计算各层神经元的等效误差,519，瓯9和占，’。然后返回步骤(2)，对其它学习样本对进行正向传播计算和误差反向传播，一直至所有P1个学>-j样本对都进{亍类似运算为止。(4)调整各层的连接权按式(2—7)修改各层的连接权，即：厂Wlk‰+1)=WIk(‰)枷∑西9hk’I肛1一wH(‰+1)=wkj(¨加艺瓯，g，，I肛1L％(‰+1)：b(啪枷兰屯一x，，(5)返回步骤(2)，根据新的连接权值，进行正向计算。2．1．3BP算法的收敛性和改进BP学习算法的出现，有力地推动了前馈网络的发展并得到了较为广泛的应用。然而，BP算法实质上是一种最小二乘算法的最陡F降法，它存在着收敛性问题。即该算法不能保证学习的结果一定收敛到均方误差的全局最小点，而可能落入局部极小点，使算法不收敛，导致网络陷入错误的工作模式。算法的局部收敛性问题可能表现为下列几种状况：(1)收敛到全局最小点这时梯度趋于零，表现为对所有学习样本对和所有的输出神经元均满足『r，9一M’J2<s，即网络已收到全局最小点，(2)存在一些平坦区，在此区域内连接权的调整很缓慢昆圳理工大学硕士学位论文第二章BP网络在选矿建模中的应用误差曲面往往存在一些平坦区，它们大多发生在神经元的输出趋于1或趋于0时。(3)收敛到局部极小点由于误差曲面是高维的凹凸不平的复杂曲面，在学习过程中可能陷入某个局部极小点，使算法不收敛。为了改善算法的有效性，提高学习速度，避免陷入局部极小点和增强推广(概括)能力，许多学者提出了不少的改进方案。其主要方法有：(1)添加动量项为了加快收敛的速度和防止振荡，许多学者建议在网络连接权的迭代关系式中引入动量项，这样就可以用较大的学习速率系数"，以提高学习速度。(2)合理调整步长连接权每次迭代时，步长的选择至关重要。虽然，在一1般的最优梯度法中，可用一维搜索的方法求得最优步长。但是，对于前馈网络，误差曲面是一高维的非线性复杂曲面，这种方法难以应用。若每步都需要计算步长，工作量太大。而在网络学习过程中步长又必须合理调整，才能取得好的收敛效果。所以在学习的初期阶段，步长宜选得大一些，以使学习速度加快；但在临近最优点时，步长又必须相当小，否则连接权值将产生振荡而难以收敛；当处在误差曲面的平坦区时，步长太小将使将使迭代次数增多；当处在误差曲面的剧烈变化区域，步长又不宜太长。(3)改变神经元的激活函数神经元的激活函数，只要是连续可微、单调上升的有界函数均可采用，并非一定要用s形函数I”1。目前，已提出了许多采用不同激活函数的方案：(I)采用双极性s形函数在基本BP算法中神经元的激活函数，采用的是s形函数即：f(sj)=l／(1+e々)，神经元输出值的变化范围为O～1。若神经元的激活函数，采用双极性S形函数，即：“sj)=一1／2+1／(1+e1)，这时神经元输出值的变化范围为±1／2，加大了连接权的调节量。(II)在S形函数中加入可调参数在基本的s形函数中，加入一些可调的常数，则激活函数的形式变lg昆明理T人学硕卜学位论文第二章BP网络前魁矿建模中的应Ⅲ成为“sJ)：1／旺+pEESj，其中a、13和￡为可调参数，调节这些参数值可改变非线性的特性。2．2选矿厂预测模型将神经网络引入选矿厂建模，主要应用于浮选回路、水力旋流器、磨矿回路、碳金浸出过程、试验研究这几个方面非线性建模及控制。由于磨矿分级过程影响因素多，过程复杂，内部参数还不能进行有效的检测，因此，很难建立相应的数学模型。虽然少数选矿厂磨矿分级过程采用了电耳、功率变送器及压电传感器等检测仪表，只能进行定性的判断和控制，其过程自动控制水平受到很大的制约[30l。目前用于磨矿指标预测建模的方法可以分为三类：经验模型、矩阵模型、总体平衡模型。经验模型：经验模型的形式和数据来自生产检测或试验测定。一般过程有“输入”(1i)及“输出”(Ok)，输入变量又称为“自变量”，输出变量又称为“因变量”或称为“响应”，经验模型一般采用多项式表示：Y=po邯1xl+p2x2+133x3+⋯(2一l6)矩阵模型：球磨机矩阵模型的形式：P=(Xj)”+F，Xj=B+s十I—S。式中xi是第J阶段的碎裂矩阵，不随其他阶段变化。总体平衡模型：根据总体平衡理论导出的动力学模型如下I3111321：!!掣；MMFmI,MF(t)一s1}{(t)ml(t)．MMPml，MP(t)—dH—(t)Fm2一(t)=MMFm2,MF(t)s2H(t)m2(t)+b2lslH(t)ml(t)MMPm2，MP(t)—dH(百t)m—i(t)=MMFmiMF(t)siH(t)mi(t)兰6ijsjH(t)mj(t)．MMpmi,MP(t)”’J；l(2—17)式中，H(t)一磨机中被磨物料的总质量；mi(t)一磨机中第i个粒级物料的质量百分数：MMF一进入磨机的固体质量流量；MMP一从磨机中排出的固体质量流量：mi,MF～进入磨机的第i个粒级的固体质量百分数；昆明理工大学硕士学位论文第二章BP嘲络在选矿建模中的应用l"n，MP一从磨机中排}_H的第i个粒级的固体质量百分数：s．一第i个粒级粒度非连续选择性函数，它代表第i个粒级中被粉碎物料的百分数；b、、一粒度非连续碎裂函数，它代表j粒级的物料被粉碎后成为i粒级的物料的百分数。我们知道，磨矿过程是一个复杂的平衡过程，影响因素非常多。要想建立反映磨矿过程的平衡模型，就应该详细的考虑所涉及的因素及作用方式，并能够用平衡参数表示。然而，从磨矿过程所涉及的因素及作用方式来看，要想完全从机理上建立模型，目前是不可能的。而且这样的模型一般属于多元非线性模型，对其进行参数估计非常困难，模型的精确度不高。根据机理建立的传统的数学模型精度不够，局限性大。人工神经网络的发展为磨矿模型提供了一个新的思路，人工神经网络反应了人脑的许多特性。因此，20世纪90年代人工神经网络技术引入矿业应用中大大的改善了建模质量，但这方面的研究仍在逐渐完善中。由于神经网络技术有其独特的优越之处，把它应用于磨矿指标的预测是一个很好的尝试和很好的研究方向。2。3应用神经网络建立磨矿模型前面已经述及人工神经网络技术应用于选矿中将有很大的优越之处，因此本文引入神经网络建模方法对磨矿指标的预测建模。2．3．1数据的收集在建立]3P模型前，必须先收集生产统计数据，因为磨矿数据很难收集，许多选矿厂的磨矿数据是分阶段收集，因此本文所采用的原始数据是来自于云南某铜选厂磨矿工序的阶段性数据。见表2．1。从神经网络的基本结构和学习算法我们可以看出，神经网络具有计算量大的特点。在神经网络的学习过程中，要不断的逐个节点计算激励函数值，更新节点输出，调整网络连接权值，一直到学习结果满足一定的要求为止。因此对于复杂的数据，在应用BP网络进行建模之前．应对数据进行预处理，把它们变换为数据较小的数据，有助于缩短建模的20昆明理工大学硕士学位沧文第二章BP网络在选矿建模中的应用学习时间，提高学习效率。表2．1云南某选厂磨浮车间2001年1．6月日报表生产数据原矿细度精矿处理量(吨／天)品位(％)(200目％)回收率(％)品位(％)l8821．18478．4896．0233．7119131．25178．9296．6832．9618661．19576、6795．6133．6018801．19874．2795．4432．2818681．22576．6895．7533．71l8611．19479_8395．5634．4718701．11876．5094-8932．4918411．04081．0495．1232．89l8651．10374．4995．3332．7917360．97775．2393．7332．36l8951．0058182945931．86l8771．04276．6795．4130．7618901．07781．0293．8930．6818741．10475．3195．0531．3917991．1327601795．1032．1116871．11776．7295．9730_8018371．10477．3795．5631．4218221．08977．5l95．3834．1418691．09476．0195．9332．71l8890．99472．3895．4131．7818981．00476．3395．29335418771．07878．6496．2034．2718721．07078．5095．1433．61l8681．16375．0196．1233．261887·1．21471．7394．1134．9818691．26774．1694．7635．9719100．97975．9495．2830．9121昆明理工大学硕士学位论文第一章BP嘲络在选矿建模中的应用19041．00471．3594．4530．5418870．98479．5394。5430．9818980．95774．4095．0331．0618540．93376．0293．7730．2318960．92776．1694．8730。3718250．94178．0094．6831．3318901．03773．1794．7033．24l8700．95673．9994．9231．1818650．93371．8693．4530，421867O．93573．3094．6029．7518700．94476．1794．4729．6018621．01973．3294．9929．3018750．99778．6593．9229．7318590．92376．1194．4531．0618740．95981．3694．6432．3719101．00778．0295．1430．6018921．05275．3494．4832．3718611．06375．7894．9231．491906O．95273．5895．3631．9918350．90675．3093．3633．5118780．94573．3494．543221l8810．94272．3693．5229．8118420．97372．3195．6227．9l18490．90772．9594．4532．3018410．97068．7794．223l_871784O．93773．1095．3630．041914O．95976．6895．5231．341873O．87876．0793．7232．7618721．00177．6694．17。32．751861O．98772．9593。2032。53I18490．99676．3596．2229．39垦塑堡三查兰堡主兰堡堡苎釜三里呈!堕塑垄