共轭梯度法是最典型的共轭方向法。文中给出了另一种有效的共轭梯度法 ,它适用于求解目标函数为一般连续可微函数的无约  (本文共5页) 阅读全文>>

非线性共轭梯度法是求解一些大规模非线性无约束优化问题的基本迭代方法，具有算法简单、存储空间需求小的特点。在经典的非线性共轭梯度法中，不同的方法其收敛性和数值表现各不相同。近年来，各种混合共轭梯度法被广泛研究，寻求同时具有良好的收敛性和数值表现的共轭梯度法成为该方向研究的一个重点。论文主要对混合非线性共轭梯度法进行深入的研究，提出了一些新的算法，并讨论其收敛性。首先，研究了非线性共轭梯度法的产生、发展和特点，给出了这种方法的一些重要形式及其产生的背景。其次，论文基于修正的HS方法提高算法效率和PC方法保证算法全局收敛性的思想，构建了一类混合的修正HS-PC共轭梯度法—MHP法，该算法不需要给定下降条件，并且相应算法在Wolfe线搜索下具有全局收敛性，数值试验表明算法是有效的。再次，针对算法的优劣主要依赖于步长因子和搜索方向的特点，结合共轭梯度法的共轭性质，在保证目标函数充分下降的条件下，论文构造出一种新的线搜索，并结合参数公式，构...  (本文共60页) 本文目录 | 阅读全文>>

共轭梯度法是介于最速下降法和牛顿法之间的一种最为常用和有效的最优化方法,它具有收敛速度快、所需存储量小和算法简便的特点,在...  (本文共3页) 阅读全文>>

共轭梯度法以其所需存储量小,迭代格式简单,只利用目标函数值及其梯度值即可完成迭代过程等优点,得到工程领域的广泛应用,特别适用于求解大规模无约束最优化问题.因此,对共轭梯度法进行改进一直是优化领域的热点之一,在保证收敛性的条件下提高算法的计算效率是诸多研究者追求的目标.提出具有良好收敛性同时又有较好的数值表现的共轭梯度算法具有重要的理论意义和实用价值.本文研究了三项共轭梯度法,主要内容分为两部分.第一部分受前人所做的三项PRP共轭梯度法的启发给出了第一类三项共轭梯度法的一般框架,其中第三项可以是任意给定的向量,通过调整其系数和负梯度的系数保证了所产生的方向有充分下降性,其中本文的系数的取值是在一个区间范围.并在适当的假设条件下,给出该算法在采用Armijo型准则及后退方法时的全局收敛性证明.第二章章末给出20个算例测试结果,可见新算法有良好的数值表现.第二部分给出三项FR共轭梯度法的一般框架,类似于第一部分,给出的第三项仍是任意给...  (本文共40页) 本文目录 | 阅读全文>>

无约束最优化问题在计划经济、工程设计、交通运输、生产管理、军事国防以及工程技术等领域都有着广泛的应用.因而寻求最快速有效的算法具有重要的价值和意义.常见的求解无约束最优化问题的算法主要有最速下降法、牛顿法、拟牛顿法、共轭梯度法等.在所有的优化算法中,最速下降法所需的储存空间小,结构简单,但其收敛速度太慢.而牛顿法收敛速度较快,被认为是求解非线性最优化问题的最有效方法之一而共轭梯度法因其迭代形式简单、所需计算及存储量少、较快的收敛性等优点,广泛应用于求解大规模无约束优化问题中.线性共轭梯度法是1952年由Hestenes和Stiefel在求解线性方程组时提出来的.随后在1964年Fletcher和Reeves推广到非线性优化问题.共轭梯度法是求解无约束最优化问题的常用方法之一,随着研究的发展,共轭梯度法有了一些新的研究方向.包括混合共轭梯度法,记忆共轭梯度方法,谱共轭梯度法和参数共轭梯度法等.在2001年Bergin和Martin...  (本文共48页) 本文目录 | 阅读全文>>

非线性共轭梯度法是求解最优化问题的一类有效算法,该算法的一个显著优点是其存储量小,且具有较好的收敛性,因此广泛应用于求解大规模的最优化问题.而已有的共轭梯度法有些不能保证产生的方向为下降方向,有些共轭梯度法虽然具有下降性,但其下降性较强地依赖于算法采用的线性搜索.本文在对已有的非线性共轭梯度法进行系统总结,对几个著名的共轭梯度法进行改进.第二章对最近提出的HZ共轭梯度法进行改进.我们在HZ算法中引入一个参数,通过对参数的适当选取,使算法成为一种充分下降算法,称为MHZ算法.该下降性与所采用的线性搜索无关,若采用精确线性搜索,则算法还原为标准的HS算法,当参数取2时,算法即为标准的HZ算法.在较弱的条件下,我们证明如果采用Goldstein线性搜索或Wolfe线性搜索,MHZ算法对强凸的极小化问题全局收敛.在此基础上,我们提出一种保守的MHZ方法,并建立相应算法在采用Armijo线性搜索时求解非凸极小值问题的全局收敛性定理.第三章...  (本文共51页) 本文目录 | 阅读全文>>