前言：中文期刊网精心挑选了神经网络经济学范文供你参考和学习，希望我们的参考范文能激发你的文章创作灵感，欢迎阅读。
神经网络经济学范文1
阐述一种基于神经网络的医学图象压缩方法。
【关键词】 神经网络； 图象处理； BP 算法
从20世纪70年代开始，随着CT的发明，医学图象处理在医学领域中占有越来越重要的地位。通过图象提供的各种相关疾病信息，临床医生可以更直接的检查病变的情况，明显的提高了诊断的准确率。医学图象资料的数据量往往非常之大，这就给图象的远程传输和存储带来很大不便，因此进行数据压缩是十分必要的，我们将数量巨大的图象信息进行压缩，只传输或存储压缩后的信息，当需要提取图象时再按一定的规则将图象恢复。神经网络的并行处理和自适应学习的能力使其成为医学图象数据压缩的良好工具。 神经网络图象数据压缩系统组成如下:
输入层
中间层
输出层
这是一个三层网络，输入层和输出层具有相同的节点数，中间层的节点数比输入层或输出层的节点数少。对网络进行训练的过程中网络的输入层和输出层使用相同图象信号作为学习样本，由于输入层和输出层使用的是同一图象信号，因此网络的输出层可以再现输入层信号。由于中间层的单元数大大少于输入层和输出层，可以用中间层有效的表示输入图象信号进行传输和存储。输入层到中间层的变换可以看作压缩数据编码过程，中间层到输出层的变换则是解码过程。
假设被编码的输入图象幅面为M*N个像素点，将其分为由m*n个像素点组成的图象块。网络的输入层和输出层均由m*n个单元构成，各单元对应图象块中的像素，网络的中间层单元数按照要压缩比和误差的要求取不同的数目。图象中每个像素的灰度值用k位表示，将2k个灰度值线性变换到［0，1］范围内，按BP算法学习。公式如下：
f(x)=21+exp(-x)-1
一般来说中间节点取16，k取8，网络将先以0.25的学习系数进行训练，再以0.01的学习系数进行训练，训练样本通常是从图象中随机抽取的，进行训练的样本数通常在10万数量级。
当网络训练完毕后，用图象的压缩比和图象的归一化二乘误差对网络的数据压缩能力进行评价。由于网络中间层的输出是在（-1，1）区间连续的，不能直接进行传输或存储，须将其转化为数字量。首先把中间层的连续量按一定的量化等级转换为数字量，然后将这一数字量变换为相应的连续值，通过网络中间层和输出层的连接传送到输出层，从而得到重建图象。并以此为依据计算出网络相应的压缩比及误差。
设网络的原输入图象块为fij经中间层模拟—数字—模拟变换后在输出层得到的重建图象为 gij，则整副图象的误差可由下式算出 ，其中 i，j表示划分图象块的行列，s表示图象块的总数。对于普通图象来说ε的值为0.413%。
ε=si，j=1(fij-gij)2si，j=1fij2
要提高网络压缩性能就要减少误差和提高压缩比。一般来说，很难在保持中间层单元数或量化等级不变的情况下同时满足压缩比和误差这两个指标。由于BP网络对中间层单元数的敏感度比对网络数据精度的敏感度低，我们在保持相同压缩比的情况下，适当减少中间层的单元数，增加量化等级就可以减少。若取网络的输入层节点数为8*8，灰度用8位表示，则误差变化如下表:（略）
用BP算法学习过的网络具有自适应学习功能，可以按照相似的输入得到相似的响应。对于未曾学习过的输入图像，由于网络在对样本进行自适应学习的过程中记忆了图象在输入、输出层之间的灰度对应特征，网络仍可以对其进行压缩和重建，但误差比学习过的图象大得多。需要处理的医学图像如MRI、CT、超声结果大都是一些黑白图像，应尽可能的在网络的学习模式中包含丰富的图象灰度样本，使网络通过训练减少误差，掌握较高的图象处理能力。
参考文献
1 Gottrell G ，Munrop，Zipser D. Image Compression by backpropagation .
2 施鸿宝.神经网络及其应用.西安交通大学出版社，1993.
神经网络经济学范文2
关键词: 神经网络;模拟项目;三部曲式
一、引言
我国高职院校以服务为宗旨,以就业为导向,以技能为本位,以培养新型生产技术、管理一线需要的紧缺型技能人才为目标,为推进我国加快社会主义现代化建设进程中具有不可替代的作用.而模拟项目教学是高职、中职教育的核心组成部分.在教育部明确规定:高职教育人才培养模式的重点是教学过程的实践性、项目性、职业性和进程性,而项目、挖掘、融合、进程是四个关键技术环节.最近我国高职教育蓬勃发展、竞争日趋激烈,如何提高高职教学质量、增强学校的特色竞争力已成为全国高职院校的核心科研.因此,开展高职模拟项目教学质量的评估是提高高职教学质量的有效模式,必将对高职院校提高教学质量、增强学校的特色竞争力,起到核心作用.基于高职院校模拟项目教学“模拟项目嵌入式融合、校企合作”的办学特点,从高职院校模拟项目教学质量“三部曲式”环节人手,搭建高职院校模拟项目教学质量评估指标体系,以高职院校模拟项目教学质量评估提供一种科学进程性的方法.
二、基于神经网络的高职模拟项目教学质量“三部曲式”模式
2.1神经网络原理
神经网络的全称是人工神经网络,它是在神经科学研究的基础上模仿人类大脑的结构和功能而构成的一种信息采集处理系统.神经网络由大量的神经元互相连接而成,它的信息处理通过神经元的相互作用来实现,知识与信息的存储表现为物联网技术接点互联嵌入式的物理关系.因此,它为模式识别、非线性分类等研究开辟了新的术语.
2.2基于神经网络评估原理
神经网络是一种具有三层(输入层、隐含层、输出层)或三层以上单向传播的多层前向网络结构,它的上下层之间实现全神经元连接.神经网络是利用非线性可微积分函数进行权值训练的多层网络.为了加快网络训练的收敛速度,采用变化的学习速率或自适应的学习速率对BP算法加以改进优化.神经网络可看作是一个从输入到输出的高度非线性映射,即要求出一映射使f,使f是g的最佳逼近.神经网络通过对简单的非线性函数进行数次复合,可得出近似复杂的函数.
我将高职模拟项目教学质量评估的各指标属性值进行归一化处理后作为BP神经网络模式的输入向量,将评估结果作为神经网络模式的输出,用足够多的样本训练这个网络,使其获取评估专家的经验、知识、主观判断及其对指标重要性的倾向,这样神经网络模式所具有的那组权系数值便是网络经过自适应学习所得到的正确知识内部表示,训练好的神经网络模式根据待评估各指标的归属值,就可得到对高职模拟项目教学质量评估的评估结果.
2.3基于高职项模拟目教学质量“三部曲式”指标体系的建设
“三部曲式”指标体系的搭建是高职院校模拟项目教学质量评估的核心内容.“三部曲式”指标体系设计的科学与否,是高职院校模拟项目教学质量评估成败的关键所在.为了突出高职院校模拟项目教学的特色,体现高职院校模拟项目教学评估的特色,作为高职院校必须从“模拟项目嵌入式融合、校企合作”的模式出发,确立模拟项目教学质量“三部曲式”指标体系如表1所示.
2.4基于高职模拟项目教学质量评估模式建立
神经网络的输入和输出层的神经元数目,是由输入和输出向量的维数确定的,输入向量的维数也是影响元素的个数,这里综合考虑影响模拟项目教学质量的各种元素,选取了能够全面反映高职院校模拟项目教学质量“三部曲式”指标体现中的29个元素,所以输入层的神经元个数为29.输出层作为模拟项目教学质量评估结果的网络输出,神经元个数确定为1,目标输出模式为(O,1)间的一个数,评估集设为(优秀、良好、合格、不合格),对应的指数区间集合={(0.85,1),(0.7,0.85),(0.5,0.7),(0,0.5)}.由于输出模式为(O,1)间的一个数,因此,输出层神经元的传递函数可选用S型对数函数了logsig型.实践证明,隐含层数目的增加可以提高神经网络的非线性映射能力,但是隐含层数目超过一定值,网络性能反而会降低.在合理的结构和恰当的权值条件下,3层BP神经网络可以逼近任意的连续函数.因此这里采用结构相对简单的3层BP网络.隐含层的神经元个数直接影响着网络的非线性预测性能.根据Kolmogorov定理,设定网络的隐含层神经元个数为27.
表一高职院校模拟项目教学质量“三部曲式”指标体系
三、神经网络结构与算法
神经网络对模拟项目教学质量评估系统进行辩识模拟.主要进行非线性系统的输出输入映射关系建模.其主要结构是由一个输入层,一个或多个隐含层,一个输出层组成,各层由若干个神经元(节点)构成,每一个节点的输出值由输入值、作用函数和阈值决定.(图一)
该模型由三层神经元组成:输入层、隐含层和输出层,不同层之间的神经元采用全互联方式,同一层的神经元之间不存在互相连接。输入层为经过标准化处理的各评价指标值,输出层只有一个神经元。
BP算法对评估体系进行辨识模拟,其基本思想是最小二乘法,采用梯度搜索技术,以期使网络的实际输出值与期望输出值的误差均方值最小,网络的学习过程是误差一边向后传播一边修正加权系数的过程,故可用其对模拟教学质量评估体系进行识别.
设网络的输入向量其中X是模拟教学质量评估系统各个指标体系.由于输入样本为29维的输入向量,因此这里n=29.网络的隐含层为:;其中,{}为权系数;a()为系统的传递函数或激励函数.网络的输出层为: 其中,是神经往来系统的输出变量;{}为权系数.设准则函数为:BP算法可使性能指标最小化,为了保证系统的全局稳定性,把被辨识模拟对象的实际输出Y作为反馈信号灯,将其与神经网络辨识模拟器的输出比较,使,其中为一个很小的数,如果不满足要求,则不断调整权系数,以达到期望要求.根据反向传播计算公式,可得如下权系数学习规律.其中为学习修正率0≤1.
四、高职模拟项目教学质量“三部曲式”模式的实现
网络结构及算法确定以后,需要利用样本数据通过一定的学习规则训练,以提高网络的适应能力.由1分析此模式的实现采用BP三层网络结构,利用软件MATLAB建模型,输入层29个神经元,隐含层27个神经元,输出层1个神经元,训练步数50,目标误差为0.001,网络训练次数100次.
五、结束语
通过BP神经网络测试结果进行分析,证明模拟项目教学质量“三部曲式”指标体系及神经网络评估模式是科学、合理的,可操作的,它克服了以往教学评估中的主观性较强的缺点.而这种模式的应用为高职院校模拟项目教学质量评估提供一种新的思路和新的评估方法.
参考文献:
神经网络经济学范文3
关键词：灰色神经网络；高职；一身两翼；办学模式
中图分类号：G718 文献标识码：A 文章编号：1672-5727（2012）10-0156-02
随着发达国家优质教育资源对国内生源市场的争夺与分流力度越来越大，主动融入、大力推进国际职业教育合作与交流成为全国高职院校开阔视野、拓宽人才培养途径的应势之举。
重庆机电职业技术学院的“一身两翼”办学模式
（一）重庆机电职业技术学院“一身两翼”办学模式的理念
“一身”指的是教学，是教育核心价值所在，特指我院的新型教学模式。“两翼”中的一翼是指国际高校合作及高、中、低端培训，另一翼是指产品孵化、产业经营。在“十二五”期间，我们要紧紧抓住重庆市产业“6+1大发展”、“再造一个重庆”发展战略的大好机遇，遵循教育规律，面向社会需求，加强管理，提高质量，立足重庆，依托兵工企业，面向西部，辐射全国，进一步优化专业结构，适应经济和社会发展要求，稳步推进产学结合、校企结合，提高学院教育教学质量。
（二）重庆机电职业技术学院“一身两翼”办学模式定位
在“十二五”期间，教育部将按照统筹规划、先行试点、动态调整的原则，逐步启动国家示范性高等职业院校建设计划二期工程、地市级高等职业教育综合改革试点、示范性职业教育集团学校建设、高等职业院校“双师型”教师队伍建设、高等职业教育实训基地建设、高等职业教育共享型教学资源库和技能培训与继续教育服务平台建设等重大项目与改革试点。我院“十二五”期间的总方针是“深化改革、固本升位”，“十二五”期间要实现的目标是“创建以育人为中心、多功能自力型的办学实体”。我院将“一身两翼”办学模式应用于校际合作、中外合作、中德草签联合办学和实习产业协议等，来增强学院“两种经济”和“外圆内方”的教学管理模式，集中财力使学院呈现出高水平的人才培养质量及坚实雄厚的财力支撑。
（三）重庆机电职业技术学院办学指导思想
学院充分发挥背靠兵工、依托兵工和“校企同源”的独特优势，用科学发展观统领学院改革发展全局，提出“德为根、人为本、和为贵、能为先”的办学指导思想，创新性地提出“一身两翼”、“以服务求生存、以贡献求发展”和“依托行业优势，以企业需要为导向，为用人单位量身打造技能型人才。
（四）重庆机电职业技术学院“一身两翼”办学模式应用于专业群实训基地建设
建设专业群校内生产型实训基地：（1）机械制造与维修及机械结构优化实训基地；（2）汽车检测与维修及汽车底盘结构优化实训基地；（3）物联网职业技术教育、物联网应用技术、计算机网络技术综合实训与信息安全技术实训基地；（4）电子商务、市场营销与物流管理模拟实训基地；（5）建筑工程管理、工程造价预决算模拟实训基地；（6）艺术设计实训基地。
基于“灰色神经网络”进行办学模式预测的可行性
首先，一个好的办学模式预测模型应符合办学模式基本理论和数学建模要求，这是选择模型的关键。其次，要保证模型数据可得一致和可比性，在数据预测检验阶段应充分拟合原始数据，特别是有波动的数据，因为波动性数据往往蕴藏了系统重要信息。
“灰色神经网络”是指既含有已知信息，又含有未知信息的系统，是基于我国华中理工大学（现华中科技大学）邓聚龙教授于1982年提出的灰色理论发展而来的，是系统思想的一种深化和发展。它所需模型因素少，模型简单。对于模型因素空间难以穷尽，运行机制尚不明确，又缺乏确定关系的信息系统的研究，“灰色神经网络”理论及方法提供了新的思路和有益的尝试。
基于“灰色神经网络”的非线性映射与办学模式非线性特征是相近的，对于未知的办学模式动力学系统可通过“灰色神经网络”来了解系统的表征量并进行预测。已有定理从数学上保证了网络用于时间序列预测的可行性。因此，结合模型映射性质、输入变量的选择和波动性数据拟合等可知“灰色神经网络”模型用于办学模式预测是可行的。与传统的办学模式预测方法相比，将基于“灰色神经网络”的时间序列预测方法用于办学模式预测，避免了繁琐的常规建模过程，使预测结构计算简单、灵活。运用计算机强大的组合能力，可以更好地提高办学模式预测的效率和精度。
基于“灰色神经网络”理论优化“一身两翼”办学模式
基于“灰色神经网络”的预测方法是根据过去及现在已知的或非确知的信息，建立一个从过去引申到将来的GM模型，从而确定系统在未来发展变化的趋势，为规划决策提供依据。在灰色预测模型中，对时间序列进行数量大小的预测，随机性被弱化了，确定性增强了。此时，在生成层次上求解得到生成函数，据此建立被求序列的数列预测，其预测模型为一阶微分方程，即只有一个变量的灰色神经模型，记为GM（1，1）模型。重庆机电职业技术学院为优化办学模式的效果，利用重庆机电职业技术学院办学模式灰色算法GM（1，1）进行数据信息优化处理，即运用重庆机电职业技术学院“灰色神经网络”理论进一步优化“一身两翼”办学模式。
（1）设所要预测“一身两翼”模型中的某项指标的原始数据列为x（0）={x（0）（1），x（0）（2），x（0）（3），……，x（0）（n）}
（2）对原始数据列做一次累加，先生成（1-AGO），再生成（1）新数据列，即x（1）（k）=x（0）（i）。
（3）对生成的数据列x（1），建立相应的微分方程
+ax（1）（t）=u，式中a为发展系数，u为内生控制系数。
神经网络经济学范文4
关键词:学生综合素质评价;BP神经网络;算法设计
中图分类号:TP311文献标识码:A文章编号:1009-3044(2009)24-6786-03
BP neural Network Based on the Overall Quality of the Student Evaluation of Algorithm Design
ZHANG Wen-sheng
(Xiamen Gongshang Lvyou Xuexiao, Xiamen 3610012,China)
Abstract: In this paper, the overall quality of the students a variety of evaluation methods carried out in-depth analysis to explore the use of BP neural network theory to evaluate the feasibility of the overall quality, and BP neural network based on the overall quality of the student evaluation of algorithm design.
Key words: evaluation of the overall quality of students; BP neural network; algorithm design
学校德育教育是提高学生综合素质的重要一环,在学校工作中占有举足轻重的地位。德育涉及大量定性和定量的数据处理,为了体现其科学性和公平性,采用先进的计算机技术进行学生综合素质量化评估势在必行。
1 问题的提出
据调查,目前在学校里对学生素质评价的方法,主要有以下几种:
1) 定性描述法
在学期或学年结束时,班主任根据学生在班级、学校和社会活动中的行为表现,运用文字对学生的综合素质进行描述,作为对学生的评价。这种方法在评价学生综合素质时起过一定的作用,但是,由于教师对学生综合素质评价的内容不明确,要求不统一,带有一定的主观片面性和模糊性。
2) 等级划分法
班主任根据平时对学生的观察和了解,对学生的综合素质行为划分出优、良、中、差四个等级。它只能说明每个学生综合素质发展的程度,在班集体中所处的地位,但缺乏具体内容,学生对于自己或他人的优点和缺点、以及个人今后的努力方向都不明确。
3) 自我总结法
这种方法是以学生为主,在教师的指导下总结自己的收获,存在的问题、以及今后的努力方向,并写成书面材料,然后写在操行表的自我总结栏内。这种方法是以学生的自我评价为主,它对于提高学生的自我评价能力,具有一定的促进作用。但是,由于没有老师和同学们参加评价,其评价结果缺乏客观性。
4) 小组评议法
是以班级小组评议为主。通过开评议会的形式,对全组成员分别进行评议,肯定成绩,提出缺点,最后把大家的意见集中起来,作为对学生的评价结果。它具有一定的客观性,可是,没有教师参加评议,影响了评价结果的可信度。
上述各种方法的都有一定的长处,也有一定的缺点。例如,对学生的综合素质的结构,没有明确统一的规定和具体要求;不能同时吸收各方面的意见参加评价;没有制定较为符合需要的综合素质量表和采用科学的测量手段等等。所以,评价的结果往往带有主观片面性,评语内容的不确定性,以及处在同一等级的同学之间存在差异的模糊性。于是最近又提出了对学生综合素质定量进行测量和评价。
5) 定量分数法
将构成学生综合素质的各种因素数量化,并制定出综合素质量表。在具体的进行测量和评价时,把学生综合素质所含每种因素的发展程度分为优、良、中、差四个等级,每个等级分别对应一定的标准值。对不同因素确定不同的权重大小,再综合学生每个因素所取得的标准值,最后得出学生的综合素质分。
用定量的方法对学生的综合素质发展程度进行评价时,不同因素需要确定不同的权重大小。权重的大小对评估结果十分重要,它反映了各指标的相对重要性。由于对不同的因素的权重是人为给定的,而学生综合素质的各项因素对学生的整体素质存在不可确定的影响程度,因些在对学生的测量和评定过程中必然受到主观因素及模糊随机性的影响。并且这种方法需要消耗大量的人力和时间。
为了探讨这个问题,我们根据BP神经网络的基本概念和原理,用神经网络自我学习的方法,对中学生综合素质进行测量和评价。BP神经网络能利用经验样本对神经网络的训练,达到神经网络的自我学习,在网络中自动建立一个多输入变量与输出变量间的非线性映射过程,无需建立具体的数学模型和规则,可以处理那些难以用模型或规则描述的过程或系统。神经网络具有自组织、自学习、自适应的特点,能通过连接权重的不断调整,克服权重确定的困难,弱化人为因素,自动适应信息、学习新知识,最终通过学习训练对实际学习样本提出合理的求解规则,对学生的综合素质的整体评定具有十分重要的意义。首先我们来了解BP神经网络的基本原理。
2BP神经网络的基本原理
1) 神经元网络基本概念
神经网络是单个并行处理元素的集合,从生物学神经系统得到启发。在自然界,网络功能主要由神经节决定,可以通过改变连接点的权重来训练神经网络完成特定的功能。如图1所示。这里,网络将根据输出和目标的比较而进行调整,直到网络输出和目标匹配。
2) 神经元网络结构
图2所示为一个单标量输入且无偏置的神经元。
神经元输出计算公式为:a=f(wp+b)。神经元中的w和b都是可调整的标量参数。可以选择特定的传输函数,通过调整权重 和偏置参量 训练神经网络做一定的工作,或者神经网络自己调整参数以得到想要的结果。
3) BP结构及算法描述
在实际应用中,神经网络用得最广泛的是反向传播网络(BP网络),典型的BP网络是三层网络,包括输入层、隐含层和输出层,各层之间实行全连接。
BP网络是采用Widrow-Hoff学习算法和非线性可微传输函数的多层网络。网络的学习过程由正向和反向传播两部分组成。在正向传播过程中,每一层神经元的状态只影响到下一层神经元网络,如果输出层不能得到期望输出,就是实际输出值与期望输出值之间有误差,那么转入反向传播过程,将误差信号沿原来的连接通路返回,通过修改各层神经元的权值,逐次地向输入层传播去进行计算,再经过正向传播过程,这两个过程的反复运用,使得误差信号最小。实际上,误差达到人们所希望的要求时,网络的学习过程就结束了。
4) 反向传播算法
反向传播学习算法最简单的应用是沿着性能函数最速增加的方向一梯度的负方向更新权重和偏置。这种递归算法可以写成:
xk+1=xk-ak*gk
这里xk是当前权重和偏置向量,gk是当前梯度,ak是学习速率。在神经元中,学习速度又称为“学习速率”,它决定每一次循环训练中所产生的权值变化量(即该值的存在是神经元网络的一个必须的参数)。大的学习速度可能导致系统的不稳定,但小的学习速度将会导致训练较长,收敛速度很慢,通常情况下取值在0-01～0,8之间。
3 基于BP神经网络的学生综合素质量化评估模型
从上述对神经元网络基本概念的研究,我们可以看出BP神经网络主要根据所提供的数据,通过学习和训练,找出输入与输出之间的内在联系,从而求取问题的解,而不是完全依据对问题的经验知识和规则,因而具有自适应功能,这对于弱化权重确定中的人为因素是十分有益的;其次能够处理那些有噪声或不完全的数据,具有泛化功能和很强的容错能力;由于实际对学生量化评估往往是非常复杂的,各个因素之间相互影响,呈现出复杂的非线性关系,人工神经网络为处理这类非线性问题提供了强有力的工具。因此与其它评定方法相比,基于神经网络的评价方法越来越显示出它的优越性。结合学校对学生进行综合素质评估考核的具体问题,我们提出以下设计。
3.1量化评估内容的确定
1) 确定学生的综合素质结构
学生的综合素质结构,主要是根据一定历史阶段的社会要求、学校对学生的传统要求,以及各个不同年龄阶段学生心理和生理发展的特征来确定的,它具有一定的社会性、科学性、可行性。以教育部提出的职业学校学生发展目标为依据,评定内容包括:道德品质与公民素养、学习能力、交流与合作能力、运动与健康、审美与表现、职业技能等6个层次。每个层次又包括各种因素,各层次和因素之间又是相互联系和相互促进的,它既反映了社会的、学校的具体要求,又符合学生综合素质发展和形成的规律。当然,在实际评价学生中,可以根据学校的实际特点进一步确定各要素,进一步构成学生综合素质评价的综合评价指标体系。
2) 学生综合素质评价的结构设计
用BP神经网络进行学生综合素质评价结构的设计如图3所示。对学生的综合素质进行量化评估时,从输入层输入评价学生综合素质的n个评价指标因素信息,经隐含层处理后传入输入层,其输出值y即为学生评估结果。这n个评价指标因素的设置,要考虑到能符合学生综合素质发展和形成的规律,能全面评价学生的综合素质状况。
网络结构的参数选择十分重要,由于输入层与隐含层神经元个数的增加会增加网络的表达能力,不仅会降低系统的性能,同时也会影响其收敛速度和增加噪声干扰。所以首先必须确定输入层神经元的数目。为使模型即有理论价值又有可操作性,本例对应于对学生综合素质考核结构的六个因素,本文采用6个输入神经元,分别为道德品质与公民素养、学习能力、交流与合作能力、运动与健康、审美与表现、职业技能等评价指标。由于目前隐单元数尚无一般的指导原则,为了兼顾网络的学习能力和学习速度,隐含层神经元的个数选择采用试算法,在网络训练过程中进行调整。笔者首先选定15,用训练样本来学习,然后减少隐含层单元数后再进行学习,通过观察训练误差变化的大小来调整隐单元数。其原则是:若在减少隐单元数进行训练时过程平衡(即逐步收敛并达到较小的误差)且误差无显著增加,则说明减少隐单元数是合适的;否则表明隐单元数不宜减少,而应增加隐单元数直到满意为止。选择一个输入神经元为学生综合素质最终评价结果,分别以0、0,5、1对应于学生评议等级的优、良、中三种不同的评价结果。经过多次实验,最后得到适宜的网络模型为6-4-1网络模式。
3.2 量化评估模型
1) 指标体系的规范化处理
根据神经网络计算规则,为了保证输出在线性部分,不到两端去,应保证输入输出在0-1之间,反传达时也一样,输出应在0~1之间。因此要将原始数据归一预处理,变换为[0,1]区间的数值,得到规范化数据,作为输入输出节点的样本数据。原始数据采用我校高一年一个班级的50名学生的学生综合素质各项指标因素样本数据,将实际数据分为两组:前40名学生的各项指标因素成绩样本数据作为学习样本,后10名学生的成绩数据作为测试样本。
2) 学习算法
本模型采用6-4-1BP神经网络结构,其中输入层为6个指标值和一个阈值。模型初始化时对所有的连接权赋予(0,1)上分布的随机数,阈值取1。权值的修正依据带惯性因子的delta规则。根据多次试验的结果,其中,惯性因子α=0.075,学习率η=0.85,将样本数据40组为一次循环,每次循环记录40组样本中最大的学习误差。经过多次的学习,最后观察网络输入与期望输出的相对误差,当误差小于0.005时,学习结束。可以得到如果增大样本的个数,精度还会进一步提高。
本文探讨了神经网络在学生综合素质评价上的应用方法,可取得较为理想的结果,它可以解决用传统统计方法不能或不易解决的问题。但是由于它是一种黑盒方法,无法表达和分析评估系统的输入与输出间的关系,因此也难于对所得结果作任何解释,对求得的结果作统计检验;再者,采用神经网络作评价系统时,由没有一个便于选定最合适的神经网络结构的标准方法,只能花大量时间采用凑试法,从许多次实验中找出“最合适”的一种;还有样本数据需要足够的多,才能得到较为理想的结果。
参考文献:
[1] 高长梅,赵承志,白昆荣.学校德育工作全书(上)[M].北京:人民日报出版社,2005.
[2] 闻新,周露,李翔,张宝伟.MATLAB神经网络仿真与应用[M].北京:科学出版社,2008.
[3] J.P.Marques de sa,Pattern Recognition―Concepts,Methods and Applications[M].北京:清华大学出版社,2006.
神经网络经济学范文5
Abstract: As the process of system dynamics modeling, the system is difficult to determine the relationship between variables, the traditional method of modeling is a considerable subjectivity, the using of BP neural network method is to avoid this problem. It needed plenty of historical data to establish artificial neural networks modeling, the historical data was usually not enough, so 3-order B-spline function was applied to construct learning samples by interpolating historical data. It can figure out shortcomings of inadequate samples in BP Neural Network model, do better respond to non-linear mapping relationship between variables.
关键词: 系统动力学;人工神经网络;BP神经网络;B样条
Key words: system dynamics;artificial neural network;Back-Propagation artificial neural networks;B-spline
中图分类号:TP183 文献标识码:A文章编号:1006-4311(2010)14-0153-02
0引言
系统动力学(System Dynamics)是于1956年创立的一门分析和模拟动态复杂系统的学科。它是一种将结构、功能和历史结合起来,通过计算机建模与仿真而定量地研究高阶次、非线性、多重反馈复杂时变系统的系统分析理论与方法。在系统动力学模型中,根据系统变量的性质和意义确定系统的三大变量,即状态变量,速率变量和辅助变量。由于状态变量、速率变量和其他辅助变量之间存在着复杂的非线性关系,对这种关系的研究变得非常困难。在传统的系统动力学建模中,需要通过表函数来确定这样的关系,表函数的建立本身存在着浓厚的猜测与经验的因素在里面,这样构建的模型往往具有很大的主观性,并需要耗费大量的建模时间[1-6]。鉴于此,可以利用ANN(Artificial Neural Network,人工神经网络)模型来解决此类问题中系统变量之间复杂关系的描述问题。只要学习样本足够的多,网络结构和训练参数设计合理,那么它能够非常容易和准确地仿真变量间复杂的非线性映射关系。在大大降低建模难度和建模时间的同时,减少了人为因素的干扰,也有效地减少辅助变量和中间变量的个数。因为它不是利用函数表达式来描述变量之间的关系,而是通过ANN模型的结构和状态来体现这种关系[7-12]。
1BP神经网络
在上世纪80年代中期,美国学者Rumelhart、McCelland[13]和他们的同事洞察到ANN信息处理的重要性,发展了反向传播(Back-Propagation)网络学习算法,创立了反向传播神经网络(Back-Propagation Artificial Neural Networks,以下简称BP网络),实现了多层网络的设想。它是在感知器中加入隐层并使用―广义算法进行学习之后发展起来的。表现为多层网络结构,相邻层之间为单向完全连接,由于这种对老的感知器模型的改进,使BP网络对输入输出节点的数量没有限制,使很多问题可以转化为用BP网络能够解决的问题。目前,在ANN的实际应用中,绝大部分的神经网络模型采用BP网络和它的变化形式,它也是前向网络的核心部分,体现了ANN最精华的部分。它的结构如图1所示。
这样的BP神经网络可以逼近任何的连续函数,如果隐含层包含足够多的神经元,它还可以逼近任何具有有限个断点的非连续函数。
2基于B样条插值的BP网络模型学习样本的构建
构建ANN模型需要大量的学习和训练样本,样本数量越多,构建的ANN模型就越精确,泛化能力也越强。在实际研究中,由调查或实验所得到的数据总是有限的,由于数据的限制,因此想到用插值的方法来构建学习样本。之所以能够这样做,是因为对于ANN模型而言,它具有强大的学习性和鲁棒性,它不要求精确无误的学习样本,它对学习的样本具有强大的纠错识别能力,只要插值样本能够大体反映实际样本的规律和发展趋势即可。B样条插值曲线是工程上最常用的样条曲线,它可以给出非常光滑的插值曲线,它在数值逼近、常微分方程求解以及工程计算中应用均相当广泛。在ANN样条插值工具箱中,函数spline()可以用来以插值的方式生成B样条函数。然后在节点外生成大量的插值点,用生成的B样条函数来预测这些点处的值。从而达到利用这条曲线上充足的插值点和实际节点一起作为ANN模型构建的学习样本[14-15]。
本文以某城市的系统动力学模型的经济子系统流图为例,选取第二产业总产值这个状态变量为代表。从流图中得到影响第二产业总产值增长率DY(增大率与减小率之差)的变量有六个,分别是:大专以上人口比例(Xl)、从事第二产业人口比例(X2)、城市化程度(X3)、R&D投入占GDP比重(X4)、对二产的投资率(X5)、能源价格(X6)。以1998年~2007年的数据作为插值节点,利用三次B样条函数进行插值,用B样条曲线来将这10年数据整合起来。下面结合编程的插值的程序段将此过程叙述如下:
clear;clc;
sample_data=xlsread('mydata.xls');
years=[1:10];
chayears=linspace(1,10,1000);
pred_data=zeros(length(chayears),size(sample_data,2));
for j=1: size(sample_data,2)
pred_data(:,j)=interp1(years,sample_data(:,j),chayears,'spline');
神经网络经济学范文6
［关键词］ 主成分分析；贝叶斯正则化；BP神经网络；预测
［中图分类号］ P338.9 ［文献标识码］ A ［文章编号］ 1008―1763(2011)06―0042―04
Abstract:We choose financial income,financial expenditure,total retail sales of consumer goods,actually used foreign investment,total import and export volume and social fixed assets investment,such as six factors,which have a significant effect on GDP. A forecasting model based on principal component analysis and Bayesian regularization BP neural network was established by using the Chinese macroeconomic data in 1985~2008, and was applied to predict the GDP of China. The empirical results show that the principal component analysis and Bayesian regularization are utilized modify BP neural network, which can simplify network structure and strengthen generalization. Compared with other commonly used methods of forecasting, this method has simple data input,fast convergence rate,smooth fitting curve,and there is significant advantage in the prediction accuracy.
Key words: principal component analysis ; Bayesian regularization; BP neural network; prediction.
一 引 言
GDP(国内生产总值)是衡量国民经济发展情况最重要的一个指标，也是经济运行状况的综合反映。自1985年以来，GDP的核算已经成为我国经济管理部门了解经济运行状况的主要手段和制定经济发展战略、规划、年度计划以及各种宏观经济政策的主要依据。因此，如何采用科学的方法来预测GDP，已成为经济学界研究的主要课题。目前，预测GDP的方法很多，主要有回归预测法［1］、时间序列预测法［2-4］、灰色预测法［5］［6］、马尔可夫预测法［7］以及人工神经网络预测法［8-12］等。前面四种方法属于传统的预测方法，它们大都是对变量之间的因果关系进行分析，实际应用中存在多重共线性和序列相关等问题，而且不可避免的丢失了信息，模拟效果不佳，预测精度难以令人满意。而人工神经网络是用来模拟人脑结构及智能特点的一个前沿研究领域，它可以通过网络学习达到其输出与期望输出相符的结果，具有很强的自适应、自学习和纠错能力。人工神经网络有多种模型，其中BP神经网络模型最成熟，其应用也最为广泛。但BP算法在本质上是属于一种非线性的优化方法，存在学习时收敛时间较长，易陷入局部极小点等缺点［10］。近年来，有学者把几种预测方法综合起来使用，得到了比单一预测更好的预测结果［13-15］。本文用主成分分析方法简化BP神经网络的输入单元数，用贝叶斯正则化算法提高网络的泛化能力，建立了主成分贝叶斯正则化BP神经网络预测模型，并在此基础上对我国的GDP进行了为期三年的预测和分析。与此同时，还与几种常用的预测方法进行了比较研究，实证结果表明：本文建立的模型有较强的仿真与预测能力。
二 主成分贝叶斯正则化BP神经网络
（一）主成分分析法
主成分分析法是从所研究的多个指标中，求出几个新指标，这些指标可以综合原有指标的信息，且彼此间不相关的统计分析方法。其原理为：设有p个指标 X1,X2,…,Xp，作指标的线性组合
Z1=a11X1+a12X2+…+a1pXp,
Z2=a21X1+a22X2+…+a2pXp,
……………………
Zp=ap1X1+ap2X2+…+appXp,
其中组合系数aij满足：
（1） a2i1+a2i2+…+a2ip=1,i=1,2,…,p
（2） Z1是X1,X2,…,Xp的一切线性组合中方差最大的；Z2与Z1不相关，且在X1,X2,…,Xp的一切线性组合中方差最大；…… ；Zp与Z1，Z2，… ，Zp－1都互不相关，且在X1,X2,…,Xp的一切线性组合中方差最大。
若X=(X1,X2,…,Xp)T的协方差阵D(X)的p个特征根为λ1≥λ2≥…≥λp>0，l1,l2,…,lp为相应的标准化特征向量，则第i个主成分
Zi=lTiX,(i=1,2,…,p)
称λi∑pj=1λj 为主成分Zi的贡献率， ∑mi=1λi∑pj=1λj 为主成分Z1,Z2,…,Zm的累计贡献率。累计贡献率越大，损失的数据信息就越少，通常取m使累计贡献率达到70%～80%以上。
(二）贝叶斯正则化BP神经网络
BP网络是一种采用误差反向传播算法的前馈网络，通常由输入层、隐含层和输出层构成，层与层之间的神经元采用全互连的连接方法，通过相应的网络权系数相连，每层内的神经元没有连接。权值不断调整的过程，就是网络的学习过程，此过程一直进行到网络的输出误差减少到可以接受的程度，或进行到预先设定的学习次数为止。
尽管BP网络具有很强的非线性映射能力，网络中间层各层的处理单元数及网络学习系数可根据具体情况任意设定并获得不同的性能，但BP算法是一种梯度下降法，算法性能依赖于初始条件，学习过程易陷于局部极小，且它的学习速度、精度和网络推广能力等都较差，不能满足应用的需要。所以，我们采用贝叶斯正则化的BP网络算法，一般算法以均方误差函数为目标函数，权值问题不能得到优化，而贝叶斯正则化在目标函数中增加权值这一项，并用贝叶斯方法自动调节参数，优化网络结构，从而提高网络的泛化能力。
贝叶斯正则化的BP网络算法的基本思想是［16］［17］：
给定一组训练样本S={(p1,t1),(p2,t2),…,(pm,tm)}，神经网络学习的目的是寻找能有效逼近该组样本的函数f，使误差函数最小化，一般情况下，神经网络的训练误差函数采用均方误差函数：
ED=1n∑ni=1ti－ai2
这里n为样本数，ti为期望输出值，ai=fpi为网络的实际输出值。
为了提高泛化能力，可以在目标函数里加上网络权值平方的算术平均值，即目标函数变为：
F=βED+αEW
其中EW=1m∑mi=1w2i为网络权重的平方和，wi是神经网络连接权值，m为神经网络连接权的个数，α,β是目标函数的参数。贝叶斯正则化方法可以在网络训练过程中自适应地调整参数α,β的大小，在保证网络误差平方和最小的前提下，能够有效地控制网络的复杂度，从而显著地提高网络的泛化能力。
三 实证研究
在参考已有文献的基础上选取对GDP有显著影响的6个因子：财政收入(FR)，财政支出（FE），消费品零售总额（TRG），实际利用外资（AUC），进出口总额（TIE），全社会固定资产投资（FA）（数据来源于1985―2008年《中国统计年鉴》）。不难看出：上述指标之间的相关性较大，信息重叠较多，不宜直接用BP网络建模，先采用主成分分析法消除指标间的重叠信息，获得主要的综合指标。
(一）主成分的提取
由原始数据可得到主成分的特征值及方差贡献率（如表1），主成分的贡献率表示该主成分反映原指标的信息量，累积贡献率表示相应几个主成分累积反映原指标的信息量。由表1可知，前两个主成分的贡献率分别为94.483%、5.199%，累积贡献率达到了99.683%，表明前两个主成分涵盖着所有指标99.683%的信息量，于是选取前两个主成分来进行分析。
（二）BP神经网络模型的确定
BP神经网络模型主要由输入层、隐含层、输出层以及各层之间的传输函数等组成。在设计网络结构时，一般先考虑一个隐层，当一个隐层的节点数很多仍不能改善网络性能时，才考虑再增加一个隐层。由于本文的样本容量少，所以只选取一个隐含层；输入层为2，即为主成分的个数；输出层为1，即为历年的GDP ；隐含层和输出层的转移函数分别采用S型正切函数tansig和线性函数purelin。
隐含层的神经元数目选择是个十分复杂的问题，往往需要根据设计者的经验和多次实验来确定，因而不存在一个理想的解析式来表示。隐含层单元的数目与问题的要求、输入输出单元的数目都有着直接关系。若数目太少，则网络所能获取的用以解决问题的信息太少；若数目太多，不仅增加训练时间，而且误差不一定最小，也会导致容错性差、不能识别以前没有训练过的样本以及出现过度拟合等问题，因此，合理选择隐含层单元数非常重要。利用边界层确定隐含层单元数的方法可以得到本文数据网络隐含层单元数的范围是6,11，采用1985年到2005年共21组数据进行BP网络训练，2006年到2008年共3组数据进行测试。发现当隐含层节点数为8时，各项预测误差最小，说明对这组数据而言，当输入节点为2，输出节点为1，隐含层节点为8时，网络具有较好的预测能力。
（三）贝叶斯正则化BP神经网络的训练、仿真与预测
选定BP神经网络的结构后，利用神经网络工具箱可得到如下的训练过程图：
从训练结果可以看出，网络经过69次就达到拟合精度9.78429e-005，有效参数个数为15.5，达到理想状态，从网络的误差图也可以看出，网络的收敛速度快，学习效率高。
下表是经过训练后的网络对于样本的仿真值，由表2可以看出：21组训练样本的最大相对误差为-1.88%，说明训练后的网络对于训练样本而言性能是优良的，这是BP网络共有的优点。通过适当调整参数，训练后的网络能对训练样本无限地接近。用训练后的网络对测试数据进行预测（见表3）：
由表2和表3可以看出：对前21组样本拟合的最大相对误差为-1.88%，对后3组样本预测的最大相对误差为4.02%，而最小相对误差仅为0.52%。一般来说，若误差在5%左右，则表明拟合效果与预测效果良好。
四 与其它预测方法的对比分析
为了进一步说明本文所用方法的预测效果，现将它与如下几种预测方法作对比分析。为简便起见，我们把本文所用的预测方法称为方法一。
方法二：不先提取主成分，而是直接使用原始数据作为网络输入。网络参数的设置同方法一，即精度为1e-4，最大迭代次数为10000，隐含层节点数选为8；
方法三：不用贝叶斯正则化算法，而改用一般的梯度下降法；
方法四：不用贝叶斯正则化算法，而改用LM算法；
方法五：ARIMA法；
方法六：多元回归法；
方法七：指数平滑法。
上述七种预测方法的预测结果及相对误差如下表：
从表4可以看出，方法二的最大相对误差为4.99%，而最小相对误差也有1.54%，大于方法一的相对误差，可见预测效果要差一些，表明精简输入后的网络对样本信息有更好的概括，对测试数据有更好的预测能力。
通过训练样本发现：一般的梯度下降法，收敛缓慢，经过10000次训练，样本误差仍然不能达到期望的1e-4，在同等训练条件下，一般的梯度下降法训练精度不够，拟合曲线不光滑，对2007年我国GDP的预测，相对误差为16.38%，三年平均相对误差为11.2%，预测效果较差。
改进后的LM算法，收敛速度快，经过8次训练，就使网络误差达到了4.86824e-005，但LM算法的拟合曲线极不光滑，虽然对2006年的预测，相对误差仅为0.06%，但对于2007年，相对误差便上升到16.32%，三年平均相对误差也达到了10.25%，出现了过度拟合。存在过度拟合的网络虽然训练残差较小，但结构臃肿，并未得到足够的信息，这会导致对于许多未知数据的预测不起作用，泛化能力差，实际应用性差。
而使用贝叶斯正则化的BP网络，收敛速度快，仅经过69次训练就使网络误差达到了期望值，预测值中最大相对误差仅为4.02%，且拟合曲线光滑，贝叶斯正则化算法的预测效果明显优于一般的梯度下降法和LM算法。
标准BP算法收敛速度慢是限制其广泛应用的主要原因，LM算法收敛速度快，但容易导致过度拟合，预测效果不佳。
从表4也可以看出，ARIMA法、多元回归法以及指数平滑法的预测效果不及方法一。实际上，ARIMA预测方法应用的前提是假定事物的过去会同样延续到未来，但影响经济增长的因素非常复杂，它不仅受国家宏观经济政策的影响，而且也会受众多偶然的外部冲击和自然因素的影响。因此，依靠其历史数据建立起来的时间序列预测模型的预测精度必然受到影响。多元回归模型则对以往的数据要求比较高，模型的建立需要大样本且要求样本有较好的分布规律，预测的结果是由每一个影响因素决定的。因此，一旦影响经济增长的某一个因素发生了结构性的变化，依靠历史数据建立起来的回归预测模型的精度也必然受到影响。指数平滑模型是一种特殊的ARIMA的模型，即IMA(1，1)，因为ARIMA模型的拟合综合考虑了序列的趋势变化、周期变化及随机干扰，并借助模型参数的调整最终使拟合残差不再包含可供提取的非随机信息成分，成为白噪声或近似白噪声，所以，多数情况下，ARIMA方法的预测效果要优于传统的指数平滑法。
五、结 论
本文利用主成分分析和贝叶斯正则化BP神经网络方法对我国宏观经济数据进行了研究，BP网络的“黑箱”特性使得人们难以理解网络的学习和决策过程，不能明确获得内部权值所反映的学习信息，这对我们准确地把握经济现象的本质是个阻碍，本文使用了6个对经济增长影响较大的变量，通过主成分分析后简化为两个主成分，这两个主成分解释了所有变量99.683%的信息，再通过BP网络建立映射关系，得到相应年份的仿真与预测值，但无法知道是哪个或哪些变量对经济增长起怎样的作用，我们主要是利用这一模型对历史数据进行模拟，将目前并不清晰的信息体现在模型中，积累这些未知的知识，从而做出更为准确的预测。通过与几种常用的预测方法的对比分析发现：本文所用的方法数据输入简便，收敛速度快，拟合曲线光滑，泛化能力强，且在预测精度上有明显的优势。
［参 考 文 献］
［1］ 胡艳国，武友新，江恭和. 支持向量机在GDP回归预测中的应用研究［J］.微计算机信息，2007,23(11):17-19.
［2］ 华鹏，赵学民. ARIMA模型在广东省GDP预测中的应用［J］.统计与决策，2010，(12):166-167.
［3］ 许阳干. 广西GDP的时间序列分析与预测模型［J］.沿海企业与科技，2010，(7):54-57.
［4］ 王春峰，宋. 混沌时间序列分析法在生产总值预测中的应用分析［J］.天津大学学报（社会科学版），2007，9(2):137-139.
［5］ 穆昭光. 灰色预测模型在江苏省GDP预测中的应用分析［J］.现代商贸工业，2009,22:32-33.
［6］ 户孝俊，马德山，贾田田. 灰色GM(1, 1) 预测模型及其在甘肃省GDP预测中的应用［J］.甘肃农业，2010，(5):25-26.
［7］ 吴隽，陈长彬. 东南亚各国人均GDP的马尔可夫法预测［J］.番禺职业技术学院学报，2007，6(4):26-31.
［8］ 张兴会，杜升之，陈增强，袁著祉，莫荣. 主成分分析法在神经网络经济预测中的应用［J］.数量经济技术经济研究，2002，(4):122-125.
［9］ 欧邦才. 基于BP神经网络的经济预测方法［J］.南京工程学院学报（自然科学版），2004，2(2):11-14.
［10］陈志高. 遗传算法和BP神经网络在GDP预测中的应用［J］.计算机与数字工程，2009，37(9):172-175.
［11］赵秀恒，李明，李昆山. BP神经网络在GDP预测中的应用研究［J］.河北经贸大学学报（综合版），2006，6(3):90-93.
［12］柯年前，张吉刚. 基于主成分分析和BP网络的我国GDP预测。科技创业月刊，2008，(8):107-108.
［13］雍红月，包桂兰. 组合时间序列ARMA模型在经济预测中的应用――内蒙古十一五期间GDP预测［J］.数学的实践与认识，2008，38(21):19-23.
［14］王莎莎，陈安，苏静，李硕. 组合预测模型在中国GDP预测中的应用［J］.山东大学学报（理学版），2009，44(2):56-59.
［15］梁文光. 广东省GDP时间序列预测――基于神经网络与ARIMA模型［J］.技术和市场，2010，17(6):7-9.
［16］武妍，张立明. 神经网络泛化能力与结构优化算法研究［J］.计算机应用研究，2002,(6):21-25.
［17］王飞.基于贝叶斯向量自回归的区域经济预测模型:以青海为例［J］.经济数学,2011,28(2):95-100.
