前言:中文期刊网精心挑选了神经网络经济学范文供你参考和学习,希望我们的参考范文能激发你的文章创作灵感,欢迎阅读。
神经网络经济学范文1
阐述一种基于神经网络的医学图象压缩方法。
【关键词】 神经网络; 图象处理; BP 算法
从20世纪70年代开始,随着CT的发明,医学图象处理在医学领域中占有越来越重要的地位。通过图象提供的各种相关疾病信息,临床医生可以更直接的检查病变的情况,明显的提高了诊断的准确率。医学图象资料的数据量往往非常之大,这就给图象的远程传输和存储带来很大不便,因此进行数据压缩是十分必要的,我们将数量巨大的图象信息进行压缩,只传输或存储压缩后的信息,当需要提取图象时再按一定的规则将图象恢复。神经网络的并行处理和自适应学习的能力使其成为医学图象数据压缩的良好工具。 神经网络图象数据压缩系统组成如下:
输入层
中间层
输出层
这是一个三层网络,输入层和输出层具有相同的节点数,中间层的节点数比输入层或输出层的节点数少。对网络进行训练的过程中网络的输入层和输出层使用相同图象信号作为学习样本,由于输入层和输出层使用的是同一图象信号,因此网络的输出层可以再现输入层信号。由于中间层的单元数大大少于输入层和输出层,可以用中间层有效的表示输入图象信号进行传输和存储。输入层到中间层的变换可以看作压缩数据编码过程,中间层到输出层的变换则是解码过程。
假设被编码的输入图象幅面为M*N个像素点,将其分为由m*n个像素点组成的图象块。网络的输入层和输出层均由m*n个单元构成,各单元对应图象块中的像素,网络的中间层单元数按照要压缩比和误差的要求取不同的数目。图象中每个像素的灰度值用k位表示,将2k个灰度值线性变换到[0,1]范围内,按BP算法学习。公式如下:
f(x)=21+exp(-x)-1
一般来说中间节点取16,k取8,网络将先以0.25的学习系数进行训练,再以0.01的学习系数进行训练,训练样本通常是从图象中随机抽取的,进行训练的样本数通常在10万数量级。
当网络训练完毕后,用图象的压缩比和图象的归一化二乘误差对网络的数据压缩能力进行评价。由于网络中间层的输出是在(-1,1)区间连续的,不能直接进行传输或存储,须将其转化为数字量。首先把中间层的连续量按一定的量化等级转换为数字量,然后将这一数字量变换为相应的连续值,通过网络中间层和输出层的连接传送到输出层,从而得到重建图象。并以此为依据计算出网络相应的压缩比及误差。
设网络的原输入图象块为fij经中间层模拟—数字—模拟变换后在输出层得到的重建图象为 gij,则整副图象的误差可由下式算出 ,其中 i,j表示划分图象块的行列,s表示图象块的总数。对于普通图象来说ε的值为0.413%。
ε=si,j=1(fij-gij)2si,j=1fij2
要提高网络压缩性能就要减少误差和提高压缩比。一般来说,很难在保持中间层单元数或量化等级不变的情况下同时满足压缩比和误差这两个指标。由于BP网络对中间层单元数的敏感度比对网络数据精度的敏感度低,我们在保持相同压缩比的情况下,适当减少中间层的单元数,增加量化等级就可以减少。若取网络的输入层节点数为8*8,灰度用8位表示,则误差变化如下表:(略)
用BP算法学习过的网络具有自适应学习功能,可以按照相似的输入得到相似的响应。对于未曾学习过的输入图像,由于网络在对样本进行自适应学习的过程中记忆了图象在输入、输出层之间的灰度对应特征,网络仍可以对其进行压缩和重建,但误差比学习过的图象大得多。需要处理的医学图像如MRI、CT、超声结果大都是一些黑白图像,应尽可能的在网络的学习模式中包含丰富的图象灰度样本,使网络通过训练减少误差,掌握较高的图象处理能力。
参考文献
1 Gottrell G ,Munrop,Zipser D. Image Compression by backpropagation .
2 施鸿宝.神经网络及其应用.西安交通大学出版社,1993.
神经网络经济学范文2
关键词 BP神经网络 故障诊断 神经网络专家系统 规则式专家系统
中图分类号:TP311 文献标识码:A
0引言
在医学上,血液透析是一种用来实现人体内废物产品如血肌酐和尿素与自由水在肾脏中的体外去除当肾功能处于衰竭状态时候的方法。血液透析是肾脏替代疗法的三种方法之一(其他两个是肾移植和腹膜透析)。针对血液透析过程,采用数据挖掘技术对大量数据进行分析,以透析前后各过程水资源分配为目标,研究水资源分配与再利用模型,建立水资源分配管理的知识库,从而能根据任务,纯度等要求自动分配水源管路。设计相关软硬件平台,为节约透析用水总量,降低水资源消耗提供保障,该研究有较高的理论价值和广阔的应用前景。
患者的血液通过血液透析机泵和透析液进行透析。医疗行为取决于医生的推理能力医疗决策依赖于潜在的不确定信息。此外,血流速度是保证处理效果和高通量血液透析可靠性的关键元件。因此,血液引流医院使用动静脉穿刺,血液的流动率(BFR)约为200毫升/分钟,但它对病人有一定伤害。
本文提出了一种改进的方法即使用血液引流透析壶,避免穿刺,使血流率(BFR)可以达到400毫升/分钟。有了这个动机,(研究拟解决的关键问题)本文提出了一种用于血液透析系统的基于模型的控制方法,设计为在血液透析的终末期肾功能衰竭患者维持血流动力学稳定。解决了传统的专家系统知识获取瓶颈等诸多问题,比如自学能力的效率低,推理单调,所以它有一定的局限性。而人工神经网络技术是一个数学模型,应用结构像下丘脑神经元的突触连接,具有学习能力强,能够从样本中学习,获取知识,它是以权值和阈值的形式存储在神经网络中。这很容易实现并行处理,具有联想记忆的特点,有较好的鲁棒性。当结合神经网络专家系统,他们可以协同工作,优势互补,它们的功能将更加强大。
因此,建立一个神经网络专家系统用来模拟训练透析壶中的透析液位置与透析情况,血泵的速度和总的安全状态估计,这可以为护士提供辅助决策参考。
图1:血液透析器的系统结构图
1便携式血透机结构设计
根据电路的特点,对血液透析器的系统架构分为一二回路系统:体外血液透析回路和血液输送系统。图1是血液透析器系统结构图。
我们将血液透析会话分为三个阶段。第一阶段是预冲透析器和导管,它们同时通过空气泡沫放电。第二阶段是状态图血液从动脉到透析壶循环血液透析,并保持液位稳定。第三阶段是体外循环后的回血状态。
图1是血液透析器系统结构图。A泵将血液从病人的动脉通过输液管A引流至透析壶。泵C使血液通过导管引流至透析器。当泵A抽血到体外电路,局部真空可能存在,将空气吸入管如果连接没有绝对的紧密。因此,除气室的功能是排出空气。经过过滤后,血液通过输液管B回到透析壶和患者静脉。A泵的旋转方向和B泵是相反的。超声波传感器为透析壶设置上限和下限液位。出于安全考虑,空气泡沫探测器是用来探测空气导管和防止气泡注入病人体内。导管中的压力控制用于避免管道破裂,病人凝血和血肿现象的出现。
在这个系统中,当血液透析的状态是安全的,A泵的转速为一个固定值为了保持恒定的量的血液从病人的动脉流经血液透析机。B泵的转速应按在透析壶的血容量和系统状态决定。此外,气泡和导管的压力也应分别控制A泵和B泵的速度。血液排水的主要困难是血泵的转速调节,以确保适当的运行状态。
以下变量与泵的速度相关:泵的旋转速度(NA):血液透析器系统无故障时那是一个不随时间变化而变化的参数。旋转泵B速度(NB):随血液透析的状态变化而变化。泵A和泵B被分别设置在透析过程的开始和结束。透析壶的液位(h):h的变化趋势反应了系统的运行状态透析壶液位状态(hs):hs的值随液位的上升和下降而变化,控制泵A和B的速度。导管中的气泡(U):如果导管中有空气气泡,这会造成对病人危险的空气栓塞。一旦气泡被检测到,AB两泵应停下来,剩下的血液应该在排除气泡后返回到患者体内。导管的压力(P1,P2,P3):导管中的压力值能够反映血液透析过程的状态。压力的采集数据应实时获取以便调整AB泵的速度。
2实验理论基础
2.1专家系统综述
随着科学技术的发展,一系列高新技术与复杂系统出现。专家系统是人工智能中最活跃、最广泛的应用领域之一。第一个专家系统在1965年的美国被制造。目前,专家系统已被应用于许多领域,如农业生产,医疗诊断,智能决策,实时监测,地质勘探,教学和军事等,促进了国民经济的发展带来了巨大的经济效益。
2.2神经网络概述
1943年,一个数学模型(MP模型)在神经科学的理论研究时代正式提出了神经元,从而开创了神经科学理论的研究时代。从那时起,大量的突破性的研究促进了神经网络模型及其学习算法,特别是在1982年,一个神经网络模型的创建,介绍了计算能量函数的概念,给出基于神经网络的稳定性判据,有力地推动了神经网络的研究与开发。一个三层神经网络可以逼近任意非线性函数这个结论是在1989年被提出的 。在人工神经网络在实际应用中,80%到90%的人工神经网络模型,采用BP网络或由其变异的网络模型。
2.3神经网络专家系统的基本原理
神经网络使用了大量的神经连接,每个连接的权重表示特定的概念或知识的分布。在获取知识的过程中,它需要有专家提出的例子和相关的解决方案,然后可以通过某个具体的学习算法从样本中学习到。自适应算法可以不断修改网络的连接权值。[7]神经网络可以输入异常样本,如果输入的模式是接近某个学习样本,输出也会接近该学习样本的模式,从而使神经网络专家系统具有联想记忆的能力。适当的由专家提供的解决方案通过输入和输出系统存储在知识库。
3神经网络专家系统的结构
一个神经网络专家系统的结构,表示在图2。该系统主要由知识库,数据文件,并行推理机,信息获取模块,解释系统和人机界面等构成。
图2:人工神经网络专家系统的结构
3.1知识获取
3.1.1bp神经网络
根据结构,神经网络可以分为两类,一个是前馈网络,另一个是反馈网络。从目前的研究来看,前馈网络是一种更完善的网络。而BP网络是最常见的一种。
标准BP神经网络由三个神经层构成,即,输入层,中间隐含层和输出层。各层的神经元相互连接形成整个互连,但同一层的神经元不连接。对于多层网络的训练,首先是提供一组训练样本,其中包括输入样本与理想输出样本。当所有的网络的实际输出与理想输出一致,培训结束。否则,它需要修改权值,根据理想的输出使实际输出。在本文的三层BP网络和图3显示了网络的三层结构。
图3:网络的三层结构
3.1.2专家系统规则
泵的转速调整应根据目前的透析壶中血容量的观测,以及系统的运行状态决定。监测血容量的目标是为了保持透析壶中的液位在很窄的范围内变化。这样的血液量跟踪系统是减少在透析过程中与过程后低血糖发作的频率。
血容量调整的估计是通过以下隐藏变量表示:A泵的旋转速度(nA):A泵控制着血液流进透析器的流动量。nA是一个时不变参数。B泵的旋转速度(nB):B泵控制着血液流出透析器的流动量。泵A和泵B分别被设置在透析器的开始端和结束端。透析壶液位(h):透析壶液位在预定的安全范围内,它根据透析过程中不同的人在不同的阶段中的不同操作而变化。
透析壶的液位状态(hS):透析壶的液位状态指示液位的变化过程。
血液引流的主要困难是对血液流经透析器时的理想血容量的估计。
该系统采用专家系统的推理机制的基础知识和神经网络的推理机制来处理血液透析过程中可能出现的不同状况,整个系统处于并行工作的方式。在我们的例子中,BP神经网络的液位有五种状态:非常低,低,正常,高,非常高。相应的似然性(nA和nB)也模糊:低,正常,高。透析壶的液位状态有四种状态:正常,小,大和多(具体参数是根据控制对象的不同而调整)。模糊变量的使用,有效防止了门限效应与阈值影响。一些在专家系统的显式知识库的规则如下:
如果透析壶液位低(h低)和透析壶液位状态小(hs小);
然后B泵的旋转速度低(nB低)和透析壶液位状态小(hs小)和A泵的旋转速度正常(正常);
如果透析壶液位高(h高)和(透析壶液位状态小(小)或透析壶液位状态大(hs大)或透析壶液位状态正常(hs正常));
然后B泵的旋转速度正常(nB正常)和透析壶液位状态多(hs多);
如果透析壶液位很高(h很高)或(透析壶液位状态多(hs多)和透析壶液位高(h高)和透析壶液位状态不大(hs不大));
然后B泵的旋转速度高(nB高)和透析壶液位多(nB多);
如果透析壶液位正常(h正常)和(透析壶液位状态多(hs多)或透析壶液位高(h高));
然后B泵的旋转速度低(nB低)和透析壶液位状态大(hs大);
除了这些,空气泡沫和输液管压力与血液透析的稳定性和安全性密切相关。如果变量是不正常的,它可能会发生紧急事件如管,栓塞的断裂,凝血等等,因此A泵与B泵的转速应该根据相应情况的变化而改变。因此需要对BP网络的知识,大容量的学习,自适应,并行推理,联想记忆,与专家系统的结合,优势互补,构建神经网络专家系统,实现血液透析的快速调整。
3.2神经网络的训练
基于网络的结构和学习样本,训练方法可以被描述为四个步骤:
(1)给出的阈值\j、aj,链接的权重Vhi、Wij在[-1, 1]之间随机变化。
(2)为每个模型(AK,YK)(A为输入层的节点,Y是隐层节点,K=1,2,……)。
①发送到输入层,通过连接权重矩阵向隐层发送激活值,然后隐层的激活值产生。
②bi=f(vhiZh+ai) (1)
③计算误差LC:dj=(yjk-cj)cj(1-cj) j=1,2 (2)
(3)为每一个dj计算错误LB:ei=bj(1-bj)(djwj) (3)
(4)调整连接权值和阈值:=wij=Zbidj (4)
(7)
其中Z(0
4系统仿真与实现
这表明泵A与泵B振动速度的变更与液位高度h变化的比较。当液位低,B泵将减速从而降低血液流出透析器的流量,从而在透析壶的血液量将增加。泵B一直保持低速度而不是停止以避免血液滞留在透析壶中或者发生凝管状况。实验对所提出的方法进行了验证。规则是被集成在专家系统中。神经网络是由医务人员使用的训练样本作为准备。然后神经网络和以规则为基础的专家系统进行融合。根据透析壶内的液位数据,空气泡沫探测器的输出和导管所收集的压力,泵A和泵B的速度变化。速度的变化会反过来作用于液位的变化。如果液位低并且没有下降,泵A开始运行。当液位是正常的,上升的,B泵开始以正常速度运行。当A泵顺时针旋转时B泵逆时针旋转。当液位低,B泵的旋转速度低于A泵。在这种方式中液位上升。如果液位高,泵B的旋转速度超过泵A. 因此,液位将下降到达下限值。一旦液位低于下限,B泵旋转速度将放缓。如果导管中有空气泡沫,泵A和泵B应立即停止转动并且管路中的血液应该被尽快返回到患者体内直到导管中的空气泡沫被排除。如果压力异常,可能会发生血肿和空气泄漏,两泵应减速。
在上述分析的基础上,实验有效的验证了所设计的神经网络专家系统控制血液透析系统,图4显示了在透析单元进行建模的结果。
图4:在实际透析会话层进行的模拟结果
5结论
本文阐述了神经网络专家系统在控制血液透析过程中所起到的稳定性和安全性应用。这个系统的目的是帮助维持血液透析过程中的稳定性与帮助血液透析患者缓解疼痛。
在这项研究中促进了仿真系统的开发,极大程度的实现了血液透析系统的安全性与稳定性并且降低针头的尺寸大小。经验的结果表明,该神经网络专家系统具有学习样本的能力,对网络的输出与预期的结果相一致,并且当神经网络完成学习过程的时候,它可以对外界刺激存储在记忆中的信息实现转换或关联,从而对系统的输入产生回应。
参考文献
[1] Rose C, Smaili C, Charpillet F.动态贝叶斯网络在适用于监测患者血液透析治疗的处理决策支持系统中的不确定因素[ C ] 人工智能工具治疗病人的监测处理不确定性,2005。ICTAI 05.第十七届IEEE国际会议。IEEE,2005:5-598.
[2] Fueda Y,Hattori T,Minato K,等。一种基于复杂医学工程的血流量变化与评估[C]//,2012 ICME国际会议奖,IEEE, 2012: 581-583.
神经网络经济学范文3
关键词:灰色神经网络;高职;一身两翼;办学模式
中图分类号:G718 文献标识码:A 文章编号:1672-5727(2012)10-0156-02
随着发达国家优质教育资源对国内生源市场的争夺与分流力度越来越大,主动融入、大力推进国际职业教育合作与交流成为全国高职院校开阔视野、拓宽人才培养途径的应势之举。
重庆机电职业技术学院的“一身两翼”办学模式
(一)重庆机电职业技术学院“一身两翼”办学模式的理念
“一身”指的是教学,是教育核心价值所在,特指我院的新型教学模式。“两翼”中的一翼是指国际高校合作及高、中、低端培训,另一翼是指产品孵化、产业经营。在“十二五”期间,我们要紧紧抓住重庆市产业“6+1大发展”、“再造一个重庆”发展战略的大好机遇,遵循教育规律,面向社会需求,加强管理,提高质量,立足重庆,依托兵工企业,面向西部,辐射全国,进一步优化专业结构,适应经济和社会发展要求,稳步推进产学结合、校企结合,提高学院教育教学质量。
(二)重庆机电职业技术学院“一身两翼”办学模式定位
在“十二五”期间,教育部将按照统筹规划、先行试点、动态调整的原则,逐步启动国家示范性高等职业院校建设计划二期工程、地市级高等职业教育综合改革试点、示范性职业教育集团学校建设、高等职业院校“双师型”教师队伍建设、高等职业教育实训基地建设、高等职业教育共享型教学资源库和技能培训与继续教育服务平台建设等重大项目与改革试点。我院“十二五”期间的总方针是“深化改革、固本升位”,“十二五”期间要实现的目标是“创建以育人为中心、多功能自力型的办学实体”。我院将“一身两翼”办学模式应用于校际合作、中外合作、中德草签联合办学和实习产业协议等,来增强学院“两种经济”和“外圆内方”的教学管理模式,集中财力使学院呈现出高水平的人才培养质量及坚实雄厚的财力支撑。
(三)重庆机电职业技术学院办学指导思想
学院充分发挥背靠兵工、依托兵工和“校企同源”的独特优势,用科学发展观统领学院改革发展全局,提出“德为根、人为本、和为贵、能为先”的办学指导思想,创新性地提出“一身两翼”、“以服务求生存、以贡献求发展”和“依托行业优势,以企业需要为导向,为用人单位量身打造技能型人才。
(四)重庆机电职业技术学院“一身两翼”办学模式应用于专业群实训基地建设
建设专业群校内生产型实训基地:(1)机械制造与维修及机械结构优化实训基地;(2)汽车检测与维修及汽车底盘结构优化实训基地;(3)物联网职业技术教育、物联网应用技术、计算机网络技术综合实训与信息安全技术实训基地;(4)电子商务、市场营销与物流管理模拟实训基地;(5)建筑工程管理、工程造价预决算模拟实训基地;(6)艺术设计实训基地。
基于“灰色神经网络”进行办学模式预测的可行性
首先,一个好的办学模式预测模型应符合办学模式基本理论和数学建模要求,这是选择模型的关键。其次,要保证模型数据可得一致和可比性,在数据预测检验阶段应充分拟合原始数据,特别是有波动的数据,因为波动性数据往往蕴藏了系统重要信息。
“灰色神经网络”是指既含有已知信息,又含有未知信息的系统,是基于我国华中理工大学(现华中科技大学)邓聚龙教授于1982年提出的灰色理论发展而来的,是系统思想的一种深化和发展。它所需模型因素少,模型简单。对于模型因素空间难以穷尽,运行机制尚不明确,又缺乏确定关系的信息系统的研究,“灰色神经网络”理论及方法提供了新的思路和有益的尝试。
基于“灰色神经网络”的非线性映射与办学模式非线性特征是相近的,对于未知的办学模式动力学系统可通过“灰色神经网络”来了解系统的表征量并进行预测。已有定理从数学上保证了网络用于时间序列预测的可行性。因此,结合模型映射性质、输入变量的选择和波动性数据拟合等可知“灰色神经网络”模型用于办学模式预测是可行的。与传统的办学模式预测方法相比,将基于“灰色神经网络”的时间序列预测方法用于办学模式预测,避免了繁琐的常规建模过程,使预测结构计算简单、灵活。运用计算机强大的组合能力,可以更好地提高办学模式预测的效率和精度。
基于“灰色神经网络”理论优化“一身两翼”办学模式
基于“灰色神经网络”的预测方法是根据过去及现在已知的或非确知的信息,建立一个从过去引申到将来的GM模型,从而确定系统在未来发展变化的趋势,为规划决策提供依据。在灰色预测模型中,对时间序列进行数量大小的预测,随机性被弱化了,确定性增强了。此时,在生成层次上求解得到生成函数,据此建立被求序列的数列预测,其预测模型为一阶微分方程,即只有一个变量的灰色神经模型,记为GM(1,1)模型。重庆机电职业技术学院为优化办学模式的效果,利用重庆机电职业技术学院办学模式灰色算法GM(1,1)进行数据信息优化处理,即运用重庆机电职业技术学院“灰色神经网络”理论进一步优化“一身两翼”办学模式。
(1)设所要预测“一身两翼”模型中的某项指标的原始数据列为x(0)={x(0)(1),x(0)(2),x(0)(3),……,x(0)(n)}
(2)对原始数据列做一次累加,先生成(1-AGO),再生成(1)新数据列,即x(1)(k)=x(0)(i)。
(3)对生成的数据列x(1),建立相应的微分方程
+ax(1)(t)=u,式中a为发展系数,u为内生控制系数。
神经网络经济学范文4
【关键词】评价指标 权重 神经网络
1.评价指标设计
教师课程教学质量评价,确定一套科学合理的教学质量评价指标体系是关键。高职学院教学质量评价体系以课程教学评价为主,一般包括教学内容、教学态度、教学方法、讲授能力、教学效果和教书育人等一级指标,每个一级指标下设立各种二级指标。在该体系中分为督导专家评教指标体系,同行教师评教指标体系,学生评教指标体系三个子系统。
2.评价体系权重设计
根据以上权重确定的原则,采用专家意见法和调查分析法,经过专家讨论确定一级指标权重和二级指标的权重,且同一级指标权重值之和为1。本文采用BP神经网络对教学质量评价数值进行仿真实验,输入值采用一级指标评价值,二级指标评价值转化成对应的一级指标评价值。
3.神经网络训练与泛化概念
通过调用train()函数对神经网络参数进行训练,可以建立神经网络模型net。该函数的调用格式为[net,tr,Y,E]=train(net,X,Y),其中,n为输入变量的路数,n为样本的组数,变量X为n*M矩阵,Y为m*M矩阵,m为输出变量的路数,X,Y分别存储样本点的输入和输出数据。通过样本数据进行训练,得出训练后的神经网络对象net,同时得到其他相关参数信息,。
当确定了BP网络结构后,必须根据误差是否满足要求,再对网络的权值和阈值是否进行学习和修正,以达到网络误差的要求,使训练网络最终达到预先给定的输入输出映射函数关系。BP网络的学习过程分为两个阶段:
第一阶段是输入已知训练数据,通过设置训练的网络结构和初始化权值和阈值,从网络的第一层逐步计算各个网络神经元的输出值。
第二阶段是对阈值和权值进行相应修改,从最后一层向前计算训练过的阈值和权值对预先设定的误差的梯度,即影响程度,从而对各阈值和权值进行相应修改。
以上两个阶段反复交替进行,直到达到误差要求,满足收敛为止。由于误差逐层往回传递,以修正层和层之间的阈值和权值,该多层网络常称之为BP网络。
如果在预先给定最大训练的次数后,仍然不能训练出满足要求的网络,则系统将会报出错误的信息。
4.训练样本采集
1. 评教数据采集
教师课程教学质量评教数据总共有三个部分组成,有督导专家评教数据、同行教师评教数据和学生评教数据。
首先,督导专家评教数据获得。十个一级指标,督导专家评教没有二级指标,对每一个单项评分区间(0,1)之间分数。其次,同行教师评教数据获得。同行教师评教有六个一级指标,十六个二级指标。最后学生评教数据获得。学生评教表有四个一级指标,有十九个二级指标。一级指标评分区间(0,1)区间打分。教师课程教学质量综合评价,有以上三个在分别进行采集数据。每张表格表号是l、2、、n,根据表号进行汇总BP神经网络训练样本数集。
2. 数据整理
样本数据的质量直接关系到模型建立的科学程度M。由于课程教学质量评价存在很强的主观性,且受心理因素的影响在评介侧重点上有所不同。为了使原始数据更加科学、准确,确保网络训练与模型的质量,通过督导专家、同行教师、学生综合评价得到原始数据,从教学评教20个样本数据中随意抽取10个样本作为训练数据,3个样本作为检测数据。
为使数据符合训练过程函数的运算要求,对所原始数据进行归一化处理,使其落在[0,1]区间。以下讲述如何获得专家评价值:
根据“权重对应表”,设定权重矩阵C,每一个分量Ci(i=l,2,…,20),要求
Ci≥0(i=1,2,… ,20)且
令矩阵X表示一级指标,则Xi(i=l,2,,20)。根据评教数据采集方法可以获得样本数据,每一个样本数据中有二十个一级指标的数据,区间(0 1)。
令专家评价值 Y = 通过此公式可以获得每一个样
本的专家评价值。
5.BP神经网络模型的实验设计
本实验设计过程如下:首先输入训练的10样本集,每个样本集有20个输入点, 输入矩阵是20*10。输入总评,即专家评价值10个数据,每个样本对应一个专家评价值;其次,构建BP神经网络模型,通过newff神经网络构建函数,设定神经元节点,隐含层传递函数和输出层传递函数,及训练函数等,同时确定训练次数和训练目标误差;最后通过net=train(net,P,T)得到训练后仿真输出结果,与目标结果进行对比,计算误差能否达到预期目标。
本实验神经网络模型是BP神经网络模型,所以构建网络函数采用newff,即一个前向BP网络。BP神经网络公式:net=newff(PR,[S1,S2,…,SN],{TFl TF2…TFN},BTF,BLF,PF)。那么采用哪种训练方式,其训练速度最快,这里是难预知的,因为这取决于许多因素,包括给定问题的复杂性、训练样本集的数量、网络权值和阈值数量、误差目标等。
隐层的节点数如何确定。本文根据Kolmogorov定理,公式m=2n+1,其中n是输入节点数,m表示隐层节点数,即神经元节点数。
采用S(sigmoid)型函数做为BP神经网络中传输函数。
6. 实验结果
应用BP神经网络建立的教学质量评价模型用于学习的样本,待测样本网络输出值与专家评价值非常接近。也就是说,该模型能较为准确的根据各评价指标来确定教师课程教学质量评价结果。
【参考文献】
神经网络经济学范文5
Abstract: As the process of system dynamics modeling, the system is difficult to determine the relationship between variables, the traditional method of modeling is a considerable subjectivity, the using of BP neural network method is to avoid this problem. It needed plenty of historical data to establish artificial neural networks modeling, the historical data was usually not enough, so 3-order B-spline function was applied to construct learning samples by interpolating historical data. It can figure out shortcomings of inadequate samples in BP Neural Network model, do better respond to non-linear mapping relationship between variables.
关键词: 系统动力学;人工神经网络;BP神经网络;B样条
Key words: system dynamics;artificial neural network;Back-Propagation artificial neural networks;B-spline
中图分类号:TP183 文献标识码:A文章编号:1006-4311(2010)14-0153-02
0引言
系统动力学(System Dynamics)是于1956年创立的一门分析和模拟动态复杂系统的学科。它是一种将结构、功能和历史结合起来,通过计算机建模与仿真而定量地研究高阶次、非线性、多重反馈复杂时变系统的系统分析理论与方法。在系统动力学模型中,根据系统变量的性质和意义确定系统的三大变量,即状态变量,速率变量和辅助变量。由于状态变量、速率变量和其他辅助变量之间存在着复杂的非线性关系,对这种关系的研究变得非常困难。在传统的系统动力学建模中,需要通过表函数来确定这样的关系,表函数的建立本身存在着浓厚的猜测与经验的因素在里面,这样构建的模型往往具有很大的主观性,并需要耗费大量的建模时间[1-6]。鉴于此,可以利用ANN(Artificial Neural Network,人工神经网络)模型来解决此类问题中系统变量之间复杂关系的描述问题。只要学习样本足够的多,网络结构和训练参数设计合理,那么它能够非常容易和准确地仿真变量间复杂的非线性映射关系。在大大降低建模难度和建模时间的同时,减少了人为因素的干扰,也有效地减少辅助变量和中间变量的个数。因为它不是利用函数表达式来描述变量之间的关系,而是通过ANN模型的结构和状态来体现这种关系[7-12]。
1BP神经网络
在上世纪80年代中期,美国学者Rumelhart、McCelland[13]和他们的同事洞察到ANN信息处理的重要性,发展了反向传播(Back-Propagation)网络学习算法,创立了反向传播神经网络(Back-Propagation Artificial Neural Networks,以下简称BP网络),实现了多层网络的设想。它是在感知器中加入隐层并使用―广义算法进行学习之后发展起来的。表现为多层网络结构,相邻层之间为单向完全连接,由于这种对老的感知器模型的改进,使BP网络对输入输出节点的数量没有限制,使很多问题可以转化为用BP网络能够解决的问题。目前,在ANN的实际应用中,绝大部分的神经网络模型采用BP网络和它的变化形式,它也是前向网络的核心部分,体现了ANN最精华的部分。它的结构如图1所示。
这样的BP神经网络可以逼近任何的连续函数,如果隐含层包含足够多的神经元,它还可以逼近任何具有有限个断点的非连续函数。
2基于B样条插值的BP网络模型学习样本的构建
构建ANN模型需要大量的学习和训练样本,样本数量越多,构建的ANN模型就越精确,泛化能力也越强。在实际研究中,由调查或实验所得到的数据总是有限的,由于数据的限制,因此想到用插值的方法来构建学习样本。之所以能够这样做,是因为对于ANN模型而言,它具有强大的学习性和鲁棒性,它不要求精确无误的学习样本,它对学习的样本具有强大的纠错识别能力,只要插值样本能够大体反映实际样本的规律和发展趋势即可。B样条插值曲线是工程上最常用的样条曲线,它可以给出非常光滑的插值曲线,它在数值逼近、常微分方程求解以及工程计算中应用均相当广泛。在ANN样条插值工具箱中,函数spline()可以用来以插值的方式生成B样条函数。然后在节点外生成大量的插值点,用生成的B样条函数来预测这些点处的值。从而达到利用这条曲线上充足的插值点和实际节点一起作为ANN模型构建的学习样本[14-15]。
本文以某城市的系统动力学模型的经济子系统流图为例,选取第二产业总产值这个状态变量为代表。从流图中得到影响第二产业总产值增长率DY(增大率与减小率之差)的变量有六个,分别是:大专以上人口比例(Xl)、从事第二产业人口比例(X2)、城市化程度(X3)、R&D投入占GDP比重(X4)、对二产的投资率(X5)、能源价格(X6)。以1998年~2007年的数据作为插值节点,利用三次B样条函数进行插值,用B样条曲线来将这10年数据整合起来。下面结合编程的插值的程序段将此过程叙述如下:
clear;clc;
sample_data=xlsread('mydata.xls');
years=[1:10];
chayears=linspace(1,10,1000);
pred_data=zeros(length(chayears),size(sample_data,2));
for j=1: size(sample_data,2)
pred_data(:,j)=interp1(years,sample_data(:,j),chayears,'spline');
神经网络经济学范文6
[关键词] 主成分分析;贝叶斯正则化;BP神经网络;预测
[中图分类号] P338.9 [文献标识码] A [文章编号] 1008―1763(2011)06―0042―04
Abstract:We choose financial income,financial expenditure,total retail sales of consumer goods,actually used foreign investment,total import and export volume and social fixed assets investment,such as six factors,which have a significant effect on GDP. A forecasting model based on principal component analysis and Bayesian regularization BP neural network was established by using the Chinese macroeconomic data in 1985~2008, and was applied to predict the GDP of China. The empirical results show that the principal component analysis and Bayesian regularization are utilized modify BP neural network, which can simplify network structure and strengthen generalization. Compared with other commonly used methods of forecasting, this method has simple data input,fast convergence rate,smooth fitting curve,and there is significant advantage in the prediction accuracy.
Key words: principal component analysis ; Bayesian regularization; BP neural network; prediction.
一 引 言
GDP(国内生产总值)是衡量国民经济发展情况最重要的一个指标,也是经济运行状况的综合反映。自1985年以来,GDP的核算已经成为我国经济管理部门了解经济运行状况的主要手段和制定经济发展战略、规划、年度计划以及各种宏观经济政策的主要依据。因此,如何采用科学的方法来预测GDP,已成为经济学界研究的主要课题。目前,预测GDP的方法很多,主要有回归预测法[1]、时间序列预测法[2-4]、灰色预测法[5][6]、马尔可夫预测法[7]以及人工神经网络预测法[8-12]等。前面四种方法属于传统的预测方法,它们大都是对变量之间的因果关系进行分析,实际应用中存在多重共线性和序列相关等问题,而且不可避免的丢失了信息,模拟效果不佳,预测精度难以令人满意。而人工神经网络是用来模拟人脑结构及智能特点的一个前沿研究领域,它可以通过网络学习达到其输出与期望输出相符的结果,具有很强的自适应、自学习和纠错能力。人工神经网络有多种模型,其中BP神经网络模型最成熟,其应用也最为广泛。但BP算法在本质上是属于一种非线性的优化方法,存在学习时收敛时间较长,易陷入局部极小点等缺点[10]。近年来,有学者把几种预测方法综合起来使用,得到了比单一预测更好的预测结果[13-15]。本文用主成分分析方法简化BP神经网络的输入单元数,用贝叶斯正则化算法提高网络的泛化能力,建立了主成分贝叶斯正则化BP神经网络预测模型,并在此基础上对我国的GDP进行了为期三年的预测和分析。与此同时,还与几种常用的预测方法进行了比较研究,实证结果表明:本文建立的模型有较强的仿真与预测能力。
二 主成分贝叶斯正则化BP神经网络
(一)主成分分析法
主成分分析法是从所研究的多个指标中,求出几个新指标,这些指标可以综合原有指标的信息,且彼此间不相关的统计分析方法。其原理为:设有p个指标 X1,X2,…,Xp,作指标的线性组合
Z1=a11X1+a12X2+…+a1pXp,
Z2=a21X1+a22X2+…+a2pXp,
……………………
Zp=ap1X1+ap2X2+…+appXp,
其中组合系数aij满足:
(1) a2i1+a2i2+…+a2ip=1,i=1,2,…,p
(2) Z1是X1,X2,…,Xp的一切线性组合中方差最大的;Z2与Z1不相关,且在X1,X2,…,Xp的一切线性组合中方差最大;…… ;Zp与Z1,Z2,… ,Zp-1都互不相关,且在X1,X2,…,Xp的一切线性组合中方差最大。
若X=(X1,X2,…,Xp)T的协方差阵D(X)的p个特征根为λ1≥λ2≥…≥λp>0,l1,l2,…,lp为相应的标准化特征向量,则第i个主成分
Zi=lTiX,(i=1,2,…,p)
称λi∑pj=1λj 为主成分Zi的贡献率, ∑mi=1λi∑pj=1λj 为主成分Z1,Z2,…,Zm的累计贡献率。累计贡献率越大,损失的数据信息就越少,通常取m使累计贡献率达到70%~80%以上。
(二)贝叶斯正则化BP神经网络
BP网络是一种采用误差反向传播算法的前馈网络,通常由输入层、隐含层和输出层构成,层与层之间的神经元采用全互连的连接方法,通过相应的网络权系数相连,每层内的神经元没有连接。权值不断调整的过程,就是网络的学习过程,此过程一直进行到网络的输出误差减少到可以接受的程度,或进行到预先设定的学习次数为止。
尽管BP网络具有很强的非线性映射能力,网络中间层各层的处理单元数及网络学习系数可根据具体情况任意设定并获得不同的性能,但BP算法是一种梯度下降法,算法性能依赖于初始条件,学习过程易陷于局部极小,且它的学习速度、精度和网络推广能力等都较差,不能满足应用的需要。所以,我们采用贝叶斯正则化的BP网络算法,一般算法以均方误差函数为目标函数,权值问题不能得到优化,而贝叶斯正则化在目标函数中增加权值这一项,并用贝叶斯方法自动调节参数,优化网络结构,从而提高网络的泛化能力。
贝叶斯正则化的BP网络算法的基本思想是[16][17]:
给定一组训练样本S={(p1,t1),(p2,t2),…,(pm,tm)},神经网络学习的目的是寻找能有效逼近该组样本的函数f,使误差函数最小化,一般情况下,神经网络的训练误差函数采用均方误差函数:
ED=1n∑ni=1ti-ai2
这里n为样本数,ti为期望输出值,ai=fpi为网络的实际输出值。
为了提高泛化能力,可以在目标函数里加上网络权值平方的算术平均值,即目标函数变为:
F=βED+αEW
其中EW=1m∑mi=1w2i为网络权重的平方和,wi是神经网络连接权值,m为神经网络连接权的个数,α,β是目标函数的参数。贝叶斯正则化方法可以在网络训练过程中自适应地调整参数α,β的大小,在保证网络误差平方和最小的前提下,能够有效地控制网络的复杂度,从而显著地提高网络的泛化能力。
三 实证研究
在参考已有文献的基础上选取对GDP有显著影响的6个因子:财政收入(FR),财政支出(FE),消费品零售总额(TRG),实际利用外资(AUC),进出口总额(TIE),全社会固定资产投资(FA)(数据来源于1985―2008年《中国统计年鉴》)。不难看出:上述指标之间的相关性较大,信息重叠较多,不宜直接用BP网络建模,先采用主成分分析法消除指标间的重叠信息,获得主要的综合指标。
(一)主成分的提取
由原始数据可得到主成分的特征值及方差贡献率(如表1),主成分的贡献率表示该主成分反映原指标的信息量,累积贡献率表示相应几个主成分累积反映原指标的信息量。由表1可知,前两个主成分的贡献率分别为94.483%、5.199%,累积贡献率达到了99.683%,表明前两个主成分涵盖着所有指标99.683%的信息量,于是选取前两个主成分来进行分析。
(二)BP神经网络模型的确定
BP神经网络模型主要由输入层、隐含层、输出层以及各层之间的传输函数等组成。在设计网络结构时,一般先考虑一个隐层,当一个隐层的节点数很多仍不能改善网络性能时,才考虑再增加一个隐层。由于本文的样本容量少,所以只选取一个隐含层;输入层为2,即为主成分的个数;输出层为1,即为历年的GDP ;隐含层和输出层的转移函数分别采用S型正切函数tansig和线性函数purelin。
隐含层的神经元数目选择是个十分复杂的问题,往往需要根据设计者的经验和多次实验来确定,因而不存在一个理想的解析式来表示。隐含层单元的数目与问题的要求、输入输出单元的数目都有着直接关系。若数目太少,则网络所能获取的用以解决问题的信息太少;若数目太多,不仅增加训练时间,而且误差不一定最小,也会导致容错性差、不能识别以前没有训练过的样本以及出现过度拟合等问题,因此,合理选择隐含层单元数非常重要。利用边界层确定隐含层单元数的方法可以得到本文数据网络隐含层单元数的范围是6,11,采用1985年到2005年共21组数据进行BP网络训练,2006年到2008年共3组数据进行测试。发现当隐含层节点数为8时,各项预测误差最小,说明对这组数据而言,当输入节点为2,输出节点为1,隐含层节点为8时,网络具有较好的预测能力。
(三)贝叶斯正则化BP神经网络的训练、仿真与预测
选定BP神经网络的结构后,利用神经网络工具箱可得到如下的训练过程图:
从训练结果可以看出,网络经过69次就达到拟合精度9.78429e-005,有效参数个数为15.5,达到理想状态,从网络的误差图也可以看出,网络的收敛速度快,学习效率高。
下表是经过训练后的网络对于样本的仿真值,由表2可以看出:21组训练样本的最大相对误差为-1.88%,说明训练后的网络对于训练样本而言性能是优良的,这是BP网络共有的优点。通过适当调整参数,训练后的网络能对训练样本无限地接近。用训练后的网络对测试数据进行预测(见表3):
由表2和表3可以看出:对前21组样本拟合的最大相对误差为-1.88%,对后3组样本预测的最大相对误差为4.02%,而最小相对误差仅为0.52%。一般来说,若误差在5%左右,则表明拟合效果与预测效果良好。
四 与其它预测方法的对比分析
为了进一步说明本文所用方法的预测效果,现将它与如下几种预测方法作对比分析。为简便起见,我们把本文所用的预测方法称为方法一。
方法二:不先提取主成分,而是直接使用原始数据作为网络输入。网络参数的设置同方法一,即精度为1e-4,最大迭代次数为10000,隐含层节点数选为8;
方法三:不用贝叶斯正则化算法,而改用一般的梯度下降法;
方法四:不用贝叶斯正则化算法,而改用LM算法;
方法五:ARIMA法;
方法六:多元回归法;
方法七:指数平滑法。
上述七种预测方法的预测结果及相对误差如下表:
从表4可以看出,方法二的最大相对误差为4.99%,而最小相对误差也有1.54%,大于方法一的相对误差,可见预测效果要差一些,表明精简输入后的网络对样本信息有更好的概括,对测试数据有更好的预测能力。
通过训练样本发现:一般的梯度下降法,收敛缓慢,经过10000次训练,样本误差仍然不能达到期望的1e-4,在同等训练条件下,一般的梯度下降法训练精度不够,拟合曲线不光滑,对2007年我国GDP的预测,相对误差为16.38%,三年平均相对误差为11.2%,预测效果较差。
改进后的LM算法,收敛速度快,经过8次训练,就使网络误差达到了4.86824e-005,但LM算法的拟合曲线极不光滑,虽然对2006年的预测,相对误差仅为0.06%,但对于2007年,相对误差便上升到16.32%,三年平均相对误差也达到了10.25%,出现了过度拟合。存在过度拟合的网络虽然训练残差较小,但结构臃肿,并未得到足够的信息,这会导致对于许多未知数据的预测不起作用,泛化能力差,实际应用性差。
而使用贝叶斯正则化的BP网络,收敛速度快,仅经过69次训练就使网络误差达到了期望值,预测值中最大相对误差仅为4.02%,且拟合曲线光滑,贝叶斯正则化算法的预测效果明显优于一般的梯度下降法和LM算法。
标准BP算法收敛速度慢是限制其广泛应用的主要原因,LM算法收敛速度快,但容易导致过度拟合,预测效果不佳。
从表4也可以看出,ARIMA法、多元回归法以及指数平滑法的预测效果不及方法一。实际上,ARIMA预测方法应用的前提是假定事物的过去会同样延续到未来,但影响经济增长的因素非常复杂,它不仅受国家宏观经济政策的影响,而且也会受众多偶然的外部冲击和自然因素的影响。因此,依靠其历史数据建立起来的时间序列预测模型的预测精度必然受到影响。多元回归模型则对以往的数据要求比较高,模型的建立需要大样本且要求样本有较好的分布规律,预测的结果是由每一个影响因素决定的。因此,一旦影响经济增长的某一个因素发生了结构性的变化,依靠历史数据建立起来的回归预测模型的精度也必然受到影响。指数平滑模型是一种特殊的ARIMA的模型,即IMA(1,1),因为ARIMA模型的拟合综合考虑了序列的趋势变化、周期变化及随机干扰,并借助模型参数的调整最终使拟合残差不再包含可供提取的非随机信息成分,成为白噪声或近似白噪声,所以,多数情况下,ARIMA方法的预测效果要优于传统的指数平滑法。
五、结 论
本文利用主成分分析和贝叶斯正则化BP神经网络方法对我国宏观经济数据进行了研究,BP网络的“黑箱”特性使得人们难以理解网络的学习和决策过程,不能明确获得内部权值所反映的学习信息,这对我们准确地把握经济现象的本质是个阻碍,本文使用了6个对经济增长影响较大的变量,通过主成分分析后简化为两个主成分,这两个主成分解释了所有变量99.683%的信息,再通过BP网络建立映射关系,得到相应年份的仿真与预测值,但无法知道是哪个或哪些变量对经济增长起怎样的作用,我们主要是利用这一模型对历史数据进行模拟,将目前并不清晰的信息体现在模型中,积累这些未知的知识,从而做出更为准确的预测。通过与几种常用的预测方法的对比分析发现:本文所用的方法数据输入简便,收敛速度快,拟合曲线光滑,泛化能力强,且在预测精度上有明显的优势。
[参 考 文 献]
[1] 胡艳国,武友新,江恭和. 支持向量机在GDP回归预测中的应用研究[J].微计算机信息,2007,23(11):17-19.
[2] 华鹏,赵学民. ARIMA模型在广东省GDP预测中的应用[J].统计与决策,2010,(12):166-167.
[3] 许阳干. 广西GDP的时间序列分析与预测模型[J].沿海企业与科技,2010,(7):54-57.
[4] 王春峰,宋. 混沌时间序列分析法在生产总值预测中的应用分析[J].天津大学学报(社会科学版),2007,9(2):137-139.
[5] 穆昭光. 灰色预测模型在江苏省GDP预测中的应用分析[J].现代商贸工业,2009,22:32-33.
[6] 户孝俊,马德山,贾田田. 灰色GM(1, 1) 预测模型及其在甘肃省GDP预测中的应用[J].甘肃农业,2010,(5):25-26.
[7] 吴隽,陈长彬. 东南亚各国人均GDP的马尔可夫法预测[J].番禺职业技术学院学报,2007,6(4):26-31.
[8] 张兴会,杜升之,陈增强,袁著祉,莫荣. 主成分分析法在神经网络经济预测中的应用[J].数量经济技术经济研究,2002,(4):122-125.
[9] 欧邦才. 基于BP神经网络的经济预测方法[J].南京工程学院学报(自然科学版),2004,2(2):11-14.
[10]陈志高. 遗传算法和BP神经网络在GDP预测中的应用[J].计算机与数字工程,2009,37(9):172-175.
[11]赵秀恒,李明,李昆山. BP神经网络在GDP预测中的应用研究[J].河北经贸大学学报(综合版),2006,6(3):90-93.
[12]柯年前,张吉刚. 基于主成分分析和BP网络的我国GDP预测。科技创业月刊,2008,(8):107-108.
[13]雍红月,包桂兰. 组合时间序列ARMA模型在经济预测中的应用――内蒙古十一五期间GDP预测[J].数学的实践与认识,2008,38(21):19-23.
[14]王莎莎,陈安,苏静,李硕. 组合预测模型在中国GDP预测中的应用[J].山东大学学报(理学版),2009,44(2):56-59.
[15]梁文光. 广东省GDP时间序列预测――基于神经网络与ARIMA模型[J].技术和市场,2010,17(6):7-9.
[16]武妍,张立明. 神经网络泛化能力与结构优化算法研究[J].计算机应用研究,2002,(6):21-25.
[17]王飞.基于贝叶斯向量自回归的区域经济预测模型:以青海为例[J].经济数学,2011,28(2):95-100.