基于自适应学习速率的改进型BP算法研究 被引量：19

1

作者 杨甲沛 李锵 +1 位作者 刘郑 袁晓琳 《计算机工程与应用》 CSCD 北大核心 2009年第11期56-58,66,共4页

从感知器的结构及学习规则无法执行异或问题出发,用神经网络中的BP网络来解决异或问题,消除了感知器的局限性,但BP算法在具体实现中常会出现一些问题,如:收敛速度缓慢且与其他参数存在较强的耦合关系,局部极小等。对此,从前馈神经网络... 从感知器的结构及学习规则无法执行异或问题出发,用神经网络中的BP网络来解决异或问题,消除了感知器的局限性,但BP算法在具体实现中常会出现一些问题,如:收敛速度缓慢且与其他参数存在较强的耦合关系,局部极小等。对此,从前馈神经网络的原理出发,提出了一种自适应学习速率因子方法,用于对BP算法的改进,并将改进后的算法用于二维XOR问题及多维XOR问题的学习中。仿真实验证明,改进后的算法可显著提高网络的学习速度,且学习过程具有良好的收敛性及较强的鲁棒性。 展开更多

关键词 神经网络 异或 自适应学习速率 反向传播

在线阅读 下载PDF 职称材料

自适应学习速率法在变压器故障诊断中的应用 被引量：5

2

作者 赵继印 李建坡 郑蕊蕊 《吉林大学学报（信息科学版）》 CAS 2008年第4期415-420,共6页

为了提高电力变压器故障诊断的准确率,针对油中溶解气体分析,提出了一种基于误差自动调节修正因子的自适应学习速率法,使神经网络通过自身的误差变化过程自动调整学习速率修正因子,保证网络总是以最大的可接受学习速率进行训练,从而提... 为了提高电力变压器故障诊断的准确率,针对油中溶解气体分析,提出了一种基于误差自动调节修正因子的自适应学习速率法,使神经网络通过自身的误差变化过程自动调整学习速率修正因子,保证网络总是以最大的可接受学习速率进行训练,从而提高网络收敛速度。针对电力变压器故障气体及故障类型的特点,建立了电力变压器故障诊断BP(Back-Propagation)网络模型,应用该算法和原算法对该故障诊断网络模型进行训练。仿真结果表明,该算法的训练次数减少了35.4%,收敛速度提高了44.9%,有效地改善了网络模型的性能。将该算法应用于电力变压器故障诊断,能较为精确地判断出电力变压器的故障类型,故障诊断准确率达90.8%。 展开更多

关键词 自适应学习速率法 BP神经网络 误差自动调节修正因子 故障诊断 电力变压器

在线阅读 下载PDF 职称材料

基于自适应学习速率的模糊神经网络控制器 被引量：4

3

作者 邹彦艳 孙晶 +1 位作者 邵克勇 李征璐 《化工自动化及仪表》 CAS 2015年第8期855-859,共5页

针对模糊神经网络控制器中很难确定一个最佳学习速率的问题,将带有动量因子的自适应学习速率BP算法引入模糊神经网络控制器中。采用模糊推理自适应调节学习速率,同时引入动量因子,提高系统的收敛速度,并基于Lyapunov定理给出了系统稳定... 针对模糊神经网络控制器中很难确定一个最佳学习速率的问题,将带有动量因子的自适应学习速率BP算法引入模糊神经网络控制器中。采用模糊推理自适应调节学习速率,同时引入动量因子,提高系统的收敛速度,并基于Lyapunov定理给出了系统稳定的证明过程。针对同一数学模型,用Matlab编程仿真3种方法的实验结果表明:优化后的模糊神经网络控制器较普通模糊神经网络控制器和模糊控制器具有更优越的控制性能。 展开更多

关键词 模糊神经网络控制器 自适应学习速率 动量因子 BP算法 MATLAB仿真

在线阅读 下载PDF 职称材料

全国私人车辆拥有量的BP神经网络模型预测与分析——基于附加动量与自适应学习速率相结合的BP方法 被引量：3

4

作者 陈正 丁姝 王俊林 《西安财经学院学报》 CSSCI 2015年第6期98-102,共5页

私人车辆拥有量的变化趋势与社会经济发展密切相关,研究与预测私人车辆拥有量变动对了解社会经济发展具有重要的意义。文章以1985—2013年全国私人车辆拥有量的发展情况为研究对象,利用附加动量法与自适应学习速率相结合的BP神经网络模... 私人车辆拥有量的变化趋势与社会经济发展密切相关,研究与预测私人车辆拥有量变动对了解社会经济发展具有重要的意义。文章以1985—2013年全国私人车辆拥有量的发展情况为研究对象,利用附加动量法与自适应学习速率相结合的BP神经网络模型对全国私人车辆拥有量进行研究与预测,结果表明利用该模型对私人车辆拥有量进行预测的精度较高、效果好。 展开更多

关键词 私人车辆拥有量 BP神经网络 附加动量法 自适应学习速率法 预测模型

在线阅读 下载PDF 职称材料

基于自适应学习速率法的补偿模糊神经网络 被引量：3

5

作者 汪纪锋 蒋玉莲 《重庆大学学报（自然科学版）》 EI CAS CSCD 北大核心 2005年第10期82-85,共4页

为克服常规网络收敛速度慢、无法结合专家知识等缺点,引入补偿模糊神经元,结合模糊系统强大的知识表达能力和神经网络优秀的自学习能力,并利用自适应学习速率法动态地改变学习率.提出了一种新型的基于自适应学习速率法的补偿模糊神经网... 为克服常规网络收敛速度慢、无法结合专家知识等缺点,引入补偿模糊神经元,结合模糊系统强大的知识表达能力和神经网络优秀的自学习能力,并利用自适应学习速率法动态地改变学习率.提出了一种新型的基于自适应学习速率法的补偿模糊神经网络,并将其应用到实际例子中.结果证明,它不仅能在线适当调整参数,还能动态地优化相应的模糊推理,加快训练速度. 展开更多

关键词 神经网络 补偿模糊神经网络 自适应学习速率法 模糊逻辑

在线阅读 下载PDF 职称材料

改进的神经网络及其自适应学习速率的研究 被引量：3

6

作者 刘巧歌 付梦印 《小型微型计算机系统》 CSCD 北大核心 2007年第5期845-848,共4页

从提高神经网络泛化能力的角度提出一种改进方法.利用Taylor级数展开的思想,用线性和非线性组合构成函数映射关系,即改进的神经网络是用原神经网络的非线性映射和关于输入信号的线性映射的和来逼近期望值.文中还给出了该神经网络学习速... 从提高神经网络泛化能力的角度提出一种改进方法.利用Taylor级数展开的思想,用线性和非线性组合构成函数映射关系,即改进的神经网络是用原神经网络的非线性映射和关于输入信号的线性映射的和来逼近期望值.文中还给出了该神经网络学习速率的自适应调节方法.对线性对象和非线性对象分别进行建模仿真,结果表明,改进的神经网络比基于正则化方法的神经网络具有更好的泛化能力. 展开更多

关键词 神经网络 泛化能力 Taylor级数展开 自适应学习速率

在线阅读 下载PDF 职称材料

带有自适应学习速率的矩阵指数梯度在线量子态估计算法 被引量：2

7

作者 丛爽 汪涛 张坤 《控制理论与应用》 EI CAS CSCD 北大核心 2021年第8期1188-1196,共9页

针对连续弱测量中存在高斯噪声的情况,提出一种带有自适应学习速率的矩阵指数梯度在线量子态估计算法.将量子态估计问题转化为含量子约束的凸优化问题,通过引入Von Neumann散度(量子相对熵),在一阶最优条件下,推导出指数型的量子态迭代... 针对连续弱测量中存在高斯噪声的情况,提出一种带有自适应学习速率的矩阵指数梯度在线量子态估计算法.将量子态估计问题转化为含量子约束的凸优化问题,通过引入Von Neumann散度(量子相对熵),在一阶最优条件下,推导出指数型的量子态迭代公式,保证量子态密度矩阵的半正定性.再通过对迭代结果进行迹为1的投影,得到最终的量子态估计值.同时在迭代公式中设计自适应的学习速率,进一步加快算法的收敛速度.将所提出的算法分别在1,2,3和4个量子位系统上,进行了在线量子态估计的数值仿真实验,并与现有的在线量子态估计算法进行了性能对比.实验结果表明,所提出的算法具有更好的快速收敛性,以及更高的状态估计精度. 展开更多

关键词 量子态在线估计 连续弱测量 矩阵指数梯度算法 自适应学习速率

在线阅读 下载PDF 职称材料

基于自适应学习速率混合高斯模型的背景消除 被引量：1

8

作者 赵晓雄 张学东 《鞍山科技大学学报》 2005年第3期239-242,共4页

背景消除是智能视觉监控和自动目标识别与跟踪首先要解决的问题。采用混合高斯模型对背景图像进行建模,并应用图像的相关性与各点的置信度对背景模型的学习速率进行快速更新,完成背景模型的重建。与其他方法比较,该方法能够有效地对新... 背景消除是智能视觉监控和自动目标识别与跟踪首先要解决的问题。采用混合高斯模型对背景图像进行建模,并应用图像的相关性与各点的置信度对背景模型的学习速率进行快速更新,完成背景模型的重建。与其他方法比较,该方法能够有效地对新背景进行快速的学习和适应,达到动态背景下运动目标实时跟踪的要求。 展开更多

关键词 混合高斯模型 背景消除 自适应学习速率 背景重建 点置信度

在线阅读 下载PDF 职称材料

动量自适应学习速率梯度下降法神经网络电力负荷预测 被引量：4

9

作者 关小芳 《电气开关》 2014年第5期49-51,共3页

电力系统负荷预测的精度将直接影响电力系统的经济效益和用电的安全和稳定,是电力负荷预测的重要组成部分。利用人工神经网络可以任意逼近非线性系统的特性,将其用于短期负荷预测。在标准的BP网络中加入了动量项和自适应学习速率,预测... 电力系统负荷预测的精度将直接影响电力系统的经济效益和用电的安全和稳定,是电力负荷预测的重要组成部分。利用人工神经网络可以任意逼近非线性系统的特性,将其用于短期负荷预测。在标准的BP网络中加入了动量项和自适应学习速率,预测结果表明比标准BP算法具有更好的性能。在相同的情况下,连续预测六天的负荷和一年的负荷,结果都证明了研究方法具有一定的实用性。 展开更多

关键词 神经网络 负荷预测 BP算法 动量项 自适应学习速率

在线阅读 下载PDF 职称材料

基于自适应学习速率的改进BP神经网络 被引量：10

10

作者 唐艳 付存君 魏建新 《计算机光盘软件与应用》 2012年第4期48-49,共2页

BP神经网络自被提出以来,便作为非线性系统的辨识工具在模式识别、系统控制等多领域得到广泛应用。但BP算法仍存在缺陷,在学习时容易陷入局部极小。本文采用调整神经元转换函数的方法,并采用学习速率自适应调整来克服网络训练速度慢、... BP神经网络自被提出以来,便作为非线性系统的辨识工具在模式识别、系统控制等多领域得到广泛应用。但BP算法仍存在缺陷,在学习时容易陷入局部极小。本文采用调整神经元转换函数的方法,并采用学习速率自适应调整来克服网络训练速度慢、不易收敛到全局最优等缺点。通过仿真实验表明,改进后的方法可行。 展开更多

关键词 BP 神经元网络 学习速率自适应 挤压函数

在线阅读 下载PDF 职称材料

BP网络局部学习速率自适应SA算法的改进 被引量：2

11

作者 李波 李赣华 +2 位作者 王成友 蔡宣平 张尔扬 《信号处理》 CSCD 北大核心 2005年第6期615-620,596,共7页

Silva-Almeida(SA)算法是最好的局部学习速率自适应算法之一,在对SA算法进行研究分析的基础上,提出 两项改进措施,使改进后的SA算法较原SA算法震荡现象大大减弱,训练速率有较大加快,训练精度有较大提高。在仿 真实验中,改进的SA算法在... Silva-Almeida(SA)算法是最好的局部学习速率自适应算法之一,在对SA算法进行研究分析的基础上,提出 两项改进措施,使改进后的SA算法较原SA算法震荡现象大大减弱,训练速率有较大加快,训练精度有较大提高。在仿 真实验中,改进的SA算法在一定程度上优于RPROP算法。 展开更多

关键词 局部学习速率自适应 全局学习速率自适应 批训练算法 梯度下降 BP神经网络

在线阅读 下载PDF 职称材料

一种学习速率自适应的可编程片上学习BP神经网络电路系统的设计 被引量：2

12

作者 卢纯 石秉学 陈卢 《电子学报》 EI CAS CSCD 北大核心 2001年第5期701-703,共3页

设计了一种学习速率自适应的可编程片上学习BP神经网络电路系统 .整个系统由前向网络、误差反传网络两部分组成 .提出了一种新型的可编程S型函数及其导数的发生器电路 .它不仅产生S型函数 ,完成非线性I -V转换 ;还利用前向差分法 ,产生... 设计了一种学习速率自适应的可编程片上学习BP神经网络电路系统 .整个系统由前向网络、误差反传网络两部分组成 .提出了一种新型的可编程S型函数及其导数的发生器电路 .它不仅产生S型函数 ,完成非线性I -V转换 ;还利用前向差分法 ,产生S型函数的导数 .这两种函数不仅与理想函数的拟合程度很好 ,而且易实现对阈值和增益因子的编程 .为提高BP神经网络片上学习的收敛速度 ,还提出了学习速率自适应电路 .本文采用标准 1 2 μmCMOS工艺的模型参数 ,对整个系统进行了sin(x)函数拟合等模拟实验 ,验证了该片上学习BP神经网络的优越性能 . 展开更多

关键词 神经网络 CMOS模拟集成电路 学习速率自适应 可编程片上学习

在线阅读 下载PDF 职称材料

递归神经网络学习速率研究 被引量：2

13

作者 戴谊 丛爽 《系统工程与电子技术》 EI CSCD 北大核心 2005年第5期942-947,共6页

针对典型的对角递归神经网络,推导出递归神经网络稳定条件下网络输出层、隐含层及关联层学习速率的具体取值范围。提出设计者可通过从具体系统中获得的数据确定网络各层学习速率的上、下界数值,确定自适应学习速率的初值与调节方法,并... 针对典型的对角递归神经网络,推导出递归神经网络稳定条件下网络输出层、隐含层及关联层学习速率的具体取值范围。提出设计者可通过从具体系统中获得的数据确定网络各层学习速率的上、下界数值,确定自适应学习速率的初值与调节方法,并可选取最优学习速率。因而该法具有很强的可操作性和实用性。还给出一个具体数值实例,说明自适应学习速率与最佳学习速率的调整过程。 展开更多

关键词 对角递归神经网络 稳定性 自适应学习速率

在线阅读 下载PDF 职称材料

基于自适应BP网络的涌潮波速计算模型 被引量：1

14

作者 廖迎娣 张玮 《海洋工程》 CSCD 北大核心 2003年第4期70-74,共5页

运用BP网络附加动量法和自适应学习速率法,建立神经网络模型,模拟计算涌潮波速。根据部分试验数据对网络进行训练,确定相关参数,建立涌潮波速计算模型,同时利用其余部分试验数据对模型进行检验,模拟结果与试验数据吻合较好,相关程度高,... 运用BP网络附加动量法和自适应学习速率法,建立神经网络模型,模拟计算涌潮波速。根据部分试验数据对网络进行训练,确定相关参数,建立涌潮波速计算模型,同时利用其余部分试验数据对模型进行检验,模拟结果与试验数据吻合较好,相关程度高,表明神经网络模型用于计算涌潮波速是合适的。 展开更多

关键词 涌潮 波速 人工神经网络 BP网络 附加动量法 自适应学习速率法 计算模型

在线阅读 下载PDF 职称材料

用于过程控制的神经网络自适应控制方法

15

作者 李力雄 费敏锐 《上海大学学报（自然科学版）》 CAS CSCD 1997年第S1期259-263,共5页

本文从人工神经网络中较常用的ＢＰ（Ｂａｃｋ－ｐｒｏｐａｇａｔｉｏｎ）算法入手，针对其存在的学习（训练）速度过慢和易陷入误差局部最小的问题，对其算法进行了改进，提出了一种新的可变学习速率（η）的方法．在此基础上，针对常... 本文从人工神经网络中较常用的ＢＰ（Ｂａｃｋ－ｐｒｏｐａｇａｔｉｏｎ）算法入手，针对其存在的学习（训练）速度过慢和易陷入误差局部最小的问题，对其算法进行了改进，提出了一种新的可变学习速率（η）的方法．在此基础上，针对常规自适应控制器难于实现且精度较差的问题，把人工神经网络控制器（ＮＮｃｏｎｔｒｏｌｅｒ）应用于自适应控制系统中．计算机仿真证明了改进是有效的． 展开更多

关键词 神经网络 自适应学习速率 学习算法 自适应控制

在线阅读 下载PDF 职称材料

基于优化的BP神经网络学生学习状态指数的评价研究

16

作者 赵智鹏 高艳梅 +1 位作者 赵寅旭 王巍 《中国校外教育（上旬）》 2016年第12期66-67,共2页

随着教学内容和教学模式方法不断改进,学生为教学主体的理念逐步深化。有效的掌握学生学习状态,能够有效提升教学效果。如何评价学生主体的学习状态,成为教师关注的重点。算法采用经附加动量和自适应学习速率优化后的BP神经网络(Back-Pr... 随着教学内容和教学模式方法不断改进,学生为教学主体的理念逐步深化。有效的掌握学生学习状态,能够有效提升教学效果。如何评价学生主体的学习状态,成为教师关注的重点。算法采用经附加动量和自适应学习速率优化后的BP神经网络(Back-Propagation Network)进行学生学习状态指数评价。实验结果表明参与评价的在校学生的整体学习状态较好,影响其学习状态的的主要因素是学习计划的有效执行,课前课后主动复习和预习、自信乐观程度、当前学习成绩等。 展开更多

关键词 教学模式 BP神经网络 自适应学习速率

在线阅读 下载PDF 职称材料

基于改进小波神经网络的新型PMSM速度控制

17

作者 周雅夫 赵洋 《组合机床与自动化加工技术》 北大核心 2024年第10期105-108,114,共5页

采用传统PI控制策略的永磁同步电机调速系统无法兼顾良好的动态响应性能与抗扰动能力,且在实际应用中参数整定繁琐。为改善以上问题,对速度环设计一种改进型小波神经网络PI控制器,该控制器基于自适应学习速率的梯度下降法并引入惯性项... 采用传统PI控制策略的永磁同步电机调速系统无法兼顾良好的动态响应性能与抗扰动能力,且在实际应用中参数整定繁琐。为改善以上问题,对速度环设计一种改进型小波神经网络PI控制器,该控制器基于自适应学习速率的梯度下降法并引入惯性项在线更新网络参数,通过权重因子扩大PI参数输出范围,以增强控制器性能;为消除电流环比例参数对速度环的影响,设计无差拍电流预测控制器,进一步提升系统动态响应性能。仿真结果表明,上述控制方案能够实现速度环PI参数在线自整定,明显提升系统动态响应性能,且具有良好的抗扰动能力。 展开更多

关键词 PMSM 小波神经网络 自适应学习速率 PI控制 模型预测控制

在线阅读 下载PDF 职称材料

基于改进BP神经网络的全社会用电量预测模型研究 被引量：12

18

作者 谭显东 胡兆光 +2 位作者 李存斌 丁伟 刘达 《华北电力大学学报（自然科学版）》 CAS 北大核心 2007年第3期85-89,共5页

采用引入附加动量和自适应学习率的BP（Back Propagation）神经网络来构建全社会用电量预测模型,此模型有效地解决了标准BP神经网络容易陷入局部极小点和收敛速度慢的问题,并且能够很好地解决全社会用电量与其影响因素之间复杂的非线性... 采用引入附加动量和自适应学习率的BP（Back Propagation）神经网络来构建全社会用电量预测模型,此模型有效地解决了标准BP神经网络容易陷入局部极小点和收敛速度慢的问题,并且能够很好地解决全社会用电量与其影响因素之间复杂的非线性关系.利用MATLAB7.0对该模型进行了设计,并用设计好的模型对1986～2005年的全社会用电量及GDP数据进行了仿真,仿真结果表明该模型收敛速度快、拟合效果好、泛化能力强、预测精度高.运用该模型对2006年全社会用电量进行了预测,预测结果表明该模型具有一定的实用价值. 展开更多

关键词 BP神经网络 全社会用电量 预测 动量项 自适应学习速率

在线阅读 下载PDF 职称材料

基于改进BP算法的煤灰结渣特性诊断模型 被引量：11

19

作者 肖隽 吕震中 +1 位作者 王军 宋兆龙 《热能动力工程》 CAS CSCD 北大核心 2002年第3期271-274,共4页

在传统BP算法的基础上对BP算法进行了改进 ,并引入了共轭梯度和自适应学习速率 ,其收敛速度快 ,能够有效避开局部极小值 ;以实际观测数据为样本 ,应用改进的BP算法建立了一种新的煤灰结渣特性诊断模型 ,结果表明该诊断模型可靠性高 ,具... 在传统BP算法的基础上对BP算法进行了改进 ,并引入了共轭梯度和自适应学习速率 ,其收敛速度快 ,能够有效避开局部极小值 ;以实际观测数据为样本 ,应用改进的BP算法建立了一种新的煤灰结渣特性诊断模型 ,结果表明该诊断模型可靠性高 ,具有重要的实用价值。 展开更多

关键词 BP算法 煤灰 结渣特性 诊断模型 锅炉 共轭梯度算法 自适应学习速率

在线阅读 下载PDF 职称材料

基于核自组织映射-前馈神经网络的交通流短时预测 被引量：12

20

作者 龚勃文 林赐云 +1 位作者 李静 杨兆升 《吉林大学学报（工学版）》 EI CAS CSCD 北大核心 2011年第4期938-943,共6页

提出了一种基于KSOM-BP神经网络的交通流短时预测模型。利用基于核函数的样本自组织映射神经网络(KSOM),在没有任何先验知识的情况下,自组织、自学习地将具有相似统计特性的历史样本划分成一类,促使分类样本统计特性更集中显著。对每个... 提出了一种基于KSOM-BP神经网络的交通流短时预测模型。利用基于核函数的样本自组织映射神经网络(KSOM),在没有任何先验知识的情况下,自组织、自学习地将具有相似统计特性的历史样本划分成一类,促使分类样本统计特性更集中显著。对每个类别的样本分别建立动量-自适应学习速率的BP神经网络预测模型,以期提高交通流短时预测精度,减少预测时间。结合实际城市道路数据对模型进行验证。验证结果表明:KSOM-BP神经网络的预测误差统计指标MARE小于7%,比基于全部样本训练的BP神经网络的MARE减少4%左右;同时,KSOM-BP神经网络建模时间更短,证明了本文方法的有效性和先进性。 展开更多

关键词 交通运输系统工程 交通流短时预测 样本分类拟合 KSOM-BP神经网络 动量-自适应学习速率

在线阅读 下载PDF 职称材料