《神经网络设计方法与实例分析》从神经网络设计和应用实践出发,介绍了10种常见的人工神经网络的基本原理、设计方法,并从各个应用领域精选了丰富的典型应用实例进行剖析,旨在使读者对各类常用的人工神经网络的基本原理和学习算法进一步加深理解,熟悉其主要功能,掌握其设计方法,了解其主要应用,为设计各类神经网络和解决实际问题打下基础。主要内容包括神经网络模型评估与选择;10种典型网络的设计与应用,包括BP网络、RBF网络、SOFM网络、LVQ网络、CPN网络、ART网铬、Hopfield网络、时序递归网络、CMAC网络、SVM网络;最后介绍了人工神经元网络设计开发平台。
《神经网络设计方法与实例分析》可作为具有一定人工神经网络理论基础的科技工作者解决实际问题时的设计参考书,也可作为相关专业研究生及本科专业高年级学生的参考教材。
人工神经网络自20世纪80年代复兴以来,已经经过了20余年。除了神经网络理论得到了进一步的发展以外,神经网络的应用成果也日益丰富。神经网络今后发展的一个方向是将其成功地应用于生产、生活的各个方面,发挥其信息处理能力,扩展其应用范围。作者在教学和科研中发现,即便掌握了一些神经网络的基本理论,在设计和应用中也需要一定的经验和指导。特别是初涉此领域的学生和工程技术人员,面对需要解决的问题,究竟选择哪一种网络和学习算法更为合适,如何进行设计和模型选择,都是比较困难的事情。本书编写的目的正是为已具有一定神经网络基础,希望应用神经网络解决实际问题的人员提供一定的指导和参考。
基于此目的,本书选择了近年应用较为普及的典型网络,其中包括静态网络和动态网络;既有监督式学习网络,也有无监督式学习网络;既有前馈网络,也有反馈网络;既有单个网络的应用,也有多个网络协同工作的应用。全书共12章,第1章介绍了通用的神经网络选择原则,常用的模型性能评价方法,样本的选择和使用等;第2、3章介绍了典型的前馈网络BP网络和RBF网络的基本理论、设计方法和应用实例;第4、5、6章分别介绍了基于竞争学习的SOFM网络、LVQ网络以及CPN网络的基本理论、设计方法和应用实例;第7章介绍了自适应共振ART、网络的基本理论、设计方法和应用实例;第8章介绍了具有联想记忆和优化计算功能的}topfield网络的基本理论、设计方法和应用实例;第9章侧重介绍有反馈和时延环节的、适合处理时间序列问题的时序递归网络的基本理论、设计方法和应用实例;第10章介绍了智能控制中常用的局部逼近网络——CMAC网络——的基本理论、设计方法和应用实例;第11章介绍了善于处理小样本问题的支持向量机的基本理论、设计方法和应用实例;第12章介绍了各种人工神经元网络设计开发平台。本书的3位作者分工如下:第1章及第2、3、4、5、6、8、9、11章的部分基本理论和实例分析由施彦撰写;第7章及第2~11章的基本理论和部分实例分析由韩力群撰写;第12章及第2、4章部分实例分析由廉小亲撰写。
本书重点介绍人工神经网络的主要设计方法,从各个应用领域精选了丰富的典型应用实例进行剖析,旨在使读者对各类常用人工神经网络的基本原理和学习算法进一步加深理解,熟悉其主要功能,掌握其设计方法,了解其主要应用,为设计各类神经网络和解决实际问题打下基础。
第1章 神经网络模型评估及选择
1.1 神经网络的泛化能力
1.2 神经网络预测模型的一般描述
1.3 研究神经网络泛化能力的理论基础
1.3.1 经验风险最小化原则
1.3.2 结构风险最小化原则
1.3.3 偏差一方差分解
1.4 影响神经网络的泛化能力的具体因素
1.4.1 神经网络具有泛化能力的基本必要条件
1.4.2 噪声的影响
1.4.3 “欠拟合”和“过拟合”
1.5 提高神经网络的泛化能力的方法
1.5.1 模型结构选择
1.5.2 训练集扩展方法
1.5.3 提前停止
1.5.4 权值衰减
1.5.5 贝叶斯学习
1.5.6 神经网络集成
1.6 神经网络模型的评估与选择
1.6.1 神经网络模型的评估
1.6.2 神经网络模型的选择
本章参考文献
第2章 基于BP算法的多层感知器的设计与应用
2.1 基于BP算法的多层感知器网络工作原理与主要特点
2.1.1 基于BP算法的多层前馈网络模型
2.1.2 BP学习算法
2.1.3 BP算法的程序实现
2.1.4 标准BP算法的改进
2.2 基于BP算法的多层前馈网络设计基础
2.2.1 网络信息容量与训练样本数
2.2.2 训练样本集的准备
2.2.3 初始权值的设计
2.2.4 多层前馈网结构设计
2.2.5 网络训练与测试
2.3 基于BP算法的多层前馈网络应用与设计实例
2.3.1 基于BP算法的多层前馈网络在催化剂配方建模中的应用
2.3.2 基于BP算法的多层前馈网络在城市年用水量预测中的应用
2.3.3 基于BP算法的多层前馈网络在煤与瓦斯突出预测中的应用
2.3.4 基于BP算法的多层前馈网络在磨煤机料位监测中的应用
2.3.5 基于BP算法的多层前馈网络在道路安全评价中的应用
2.3.6 基于BP算法的多层前馈网络在项目投资风险评价中的应用
2.3.7 基于BP算法的多层前馈网络在大气环境质量评价中的应用
2.3.8 基于BP网络集成的除草剂定量构效关系模型
2.3.9 基于BP网络集成的物流中心选址模型
本章参考文献
第3章 径向基函数神经网络的设计与应用
3.1 径向基函数网络原理与学习算法
3.1.1 正则化RBF网络原理与学习算法
3.1.2 广义RBF网络原理与学习算法
3.2 RBF网络的设计要点
3.2.1 随机选取RBF中心
3.2.2 自组织学习选取RBF中心及网络设计
3.2.3 有监督学习选取RBF中心及网络设计
3.2.4 正交最小二乘(0LS)法选取RBF中心及网络设计
3.2.5 递归最小二乘(OLS)法选取RBF中心及网络设计
3.2.6 其他方法
3.2.7 RBF网络与多层感知器的特点与设计比较
3.3 RBF网络的应用实例
3.3.1 RBF网络在液化气销售量预测中的应用
3.3.2 RBF网络在地表水质评价中的应用
3.3.3 RBF网络在汽油干点软测量中的应用
3.3.4 RBF网络在地下温度预测中的应用
3.3.5 RBF网络在工程车辆自动变速控制中的应用
3.3.6 RBF网络在人脸年龄估计中的应用
3.3.7 RBF网络在专利发展趋势预测中的应用
3.3.8 RBF网络在图像融合中的应用
3.3.9 RBF网络红外光谱法用于中药大黄样品的真伪分类
3.3.10 RBF网络在船用柴油机智能诊断中的应用
3.3.11 RBF网络在多级入侵检测中的应用
本章参考文献
第4章 SOFM网络设计与应用
4.1 SOFM网络原理与学习算法
4.2 SOFM网络的设计基础
4.2.1 输出层设计
4.2.2 权值初始化问题
4.2.3 优胜邻域Nj*·(t)的设计
4.2.4 学习率n(t)的设计
4.3 应用与设计实例
4.3.1 SOFM网络用于皮革外观效果分类
4.3.2 SOFM网络用于物流中心城市分类评价
4.3.3 SOFM网络用于遥感影像分类
4.3.4 SOFM网络用于火焰燃烧诊断
4.3.5 SOFM网络在防火树种分类中的应用
4.3.6 SOFM在基于汉字与部件聚类的汉字认知建模中的应用
4.3.7 SOFM网络在膨胀土分类中的应用
4.3.8 SOFM网络在水电厂技术供水系统故障诊断中的应用
4.3.9 SOFM网络在不同地区人力资本构成分析中的应用
本章参考文献
第5章 LVQ网络设计与应用
5.1 LVQ网络原理与学习算法
5.1.1 LVQ网络工作原理
5.1.2 LVQ网络的学习算法
5.2 LVQ网络设计要点
5.2.1 竞争层设计
5.2.2 权值初始化问题
5.2.3 学习率n(t)的设计
5.3 应用与设计实例
5.3.1 LVQ网络在证券投资基金分类中的应用
5.3.2 LVQ网络在探地雷达探雷中的应用
5.3.3 LVQ网络在苹果等级判别中的应用
5.3.4 VQ网络在胃癌组织样品分类识别中的应用
5.3.5 LVQ网络在液压系统故障诊断中的应用
5.3.6 LVQ网络在汽车信贷客户分类中的应用研究
5.3.7 LVQ网络在土地利用/覆盖变化探测中的应用
5.3.8 LVQ网络在周期信号识别方面的扩展应用
本章参考文献
第6章 对偶传播神经网络
6.1 网络运行原理及学习算法
6.1.1 网络结构及运行原理
6.1.2 CPN的学习算法
6.2 CPN网的设计与改进
6.2.1 CPN网的设计要点
6.2.2 改进的CPN网
6.3 CPN网的应用
6.3.1 CPN网在烤烟烟叶颜色模式分类中的应用
6.3.2 CPN网络的水电机组振动故障诊断中的应用
6.3.3 CPN网络在博士学位论文质量评估中的应用
6.3.4 CPN网在人脸识别中的应用
6.3.5 CPN网络在时间序列预测问题中的应用
6.3.6 CPN网络在棉花异性纤维识别中的应用
本章参考文献
第7章 ART网络设计及应用
7.1 ART网络原理与算法
7.1.1 ART网络的主要特点
7.1.2 ARTI型网络原理与算法
……
第8章 Hopfield网络的设计与应用
第9章 时序递归网络的设计与应用
第10章 CMAC网络的设计与应用
第11章 支持向量机的设计与应用
第12章 人工神经元网络设计开发平台
第1章神经网络模型评估及选择
神经网络的种类很多,每一种类型的网络适合解决不同的问题,无论对于哪一种网络,都需要在最终结束训练和设计时评估网络的性能。以什么指标作为评估网络性能的主要指标,如何对该指标进行量化估计,如何提高网络的性能,这是每个设计者都要遇到和需要解决的问题。即设计者在解决实际问题时,需要考虑以什么标准设置网络的各项参数,控制其训练过程,确定最终的模型等一系列问题。大多数情况下,我们不仅要求神经网络对现有训练集具有较好的拟合能力,也要求它能够对训练集以外的同分布数据做出较好的预测,这就与神经网络的泛化能力有关。本章从神经网络的泛化能力出发,讨论神经网络模型性能评估问题,分析提高泛化能力的原理和途径,给出估计泛化误差的方法,关于模型选择的问题则贯穿在各节当中。
1.1 神经网络的泛化能力
神经网络模型设计常常需要满足多种不同的要求。例如,具有较好的泛化(推广)能力、易于硬件实现、训练速度快等。其中泛化能力最为重要,它是衡量神经网络性能优劣的一个重要方面,这是因为建立神经网络模型的一个重要目标是通过对已知环境信息的学习,掌握其中的规律,从而对新的环境信息做出正确的预测。
泛化能力的定义如下:它是指经训练(学习)后的预测模型对未在训练集中出现(但具有统一规律性)的样本做出正确反映的能力,学习不是简单地记忆已经学过的输入,而是通过对有限个训练样本的学习,学到隐含在样本中的有关环境本身的内在规律性。例如,对有导师学习的网络,通过对已有样本的学习,将所提取的样本对中的非线性映射关系存储在权值矩阵中,在其后的工作阶段,当向网络输入训练时未曾见过的非样本数据(与训练集同分布)时,网络也能完成由输入空间向输出空间的正确映射。
神经网络的泛化能力涉及其在独立的检验数据(Test Data)上的预测能力。