手机知网 App
24小时专家级知识服务
打 开
手机知网|搜索

求解一类非光滑优化问题的广义神经网络方法

刘娇

  最优化问题源于军事、管理、经济和工程技术等领域中,解决此类问题的方法在图像处理、通信、设计操作过程、生产装置分析、经济运作决策等方面的应用也越来越广。随着现代科技的发展,目前在各领域出现的优化问题中,问题的维数越来越多,而结构也越来越复杂。这就要求人们能够提供更有效的数学模型来求解此类问题。特别是在求解实时解的过程中,当处理具有较高维数和较复杂结构的优化问题时,我们必须考虑到计算时间。而计算时间是在极大程度上依赖于问题的维数与结构,以及算法的复杂度。一般来讲,因为数值方法是凭借迭代来计算的,传统的数值方法对于解决具有高维数和较复杂的问题可能不会很奏效。而神经网络的出现,使得解决此类优化问题不再只是依赖于迭代,而是利用神经网络对于处理此类问题的独特优势,即,它的自适应性和并行性,可以使得计算的速度有很大的提高。最近,利用神经网络开发最优化问题的算法取得了很大进展,并由此产生了一些神经网络模型。但这些模型主要集中于光滑优化问题的研究,或者将不光滑的目标函数近似逼近为光滑函数。近年来,随着集值映射和非光滑理论的不断深入研究,应用神经网络方法研究非光滑优化问题逐渐受到重视。然而,对于极小极大优化问题的研究,目前不只是停留在应用数值方法来研究的程度上。利用神经网络来探索此类问题最优解的方法逐渐地发挥了它的作用。特别是在微分包含理论和凸分析理论日臻成熟的基础上,神经网络逐渐地在非光滑优化分析上发挥了它的价值。 基于以上的分析,本文首先给出了在优化方面关于利用神经网络方法探究最优解的相关进展,以及非光滑理论和凸分析理论的相关概念和引理;其次,介绍了三种广义神经网络方法,并研究了如何求解一类无约束的极小极大优化问题,带线性等式约束的极小极大优化问题,还探索了如何利用投影神经网络来求解一类非光滑优化问题。具体内容为: (1)、求解一类带有无约束非光滑成本函数的极小极大问题的广义神经网络。主要是利用微分包含理论,稳定性理论和推广的Lojasiewicz不等式来研究了一类带有无约束的,次解析的,凸的成本函数的优化问题,并且讨论了此类广义神经网络理论结果的有效性。 (2)、求解一类带线性等式约束的极小极大问题的广义神经网络。在带有线性等式约束的情况下,利用投影神经网络,微分包含理论和稳定性理论来构造一种广义神经网络,探索求解带线性等式约束的极小极大优化问题的方法,并且给出了此类广义神经网络理论结果的有效性证明。 (3)、基于投影的广义神经网络的收敛性及其在非光滑优化问题中的应用。投影神经网络在解决光滑优化问题中发挥了重要的作用,而对于解决非光滑优化问题的应用还不成熟。由于极小极大问题是非光滑的,因此,在前面两部分的基础上,我们主要探讨一种基于投影的广义神经网络在非光滑优化问题中的应用,并且给出了这种广义神经网络的收敛性证明和数值仿真。 另外,从理论上分析了三种广义神经网络的收敛性之后,我们给出了数值仿真例子来说明理论结果的有效性。……   
[关键词]:极小极大问题;广义神经网络;非光滑分析;微分包含;收敛性;投影算子
[文献类型]:硕士论文
[文献出处]:江南大学2010年
App内打开