最佳控制(best control)与最优化(best optimization)有何异同?
最佳控制与最优化在本质上并无根本区别。
许多人可能觉得,最优化指的是静态最优化,而最佳控制是动态最优化,因为学习最优化时主要讨论的是非线性规划,而最佳控制则通常涉及另一门课程,这似乎表明两者存在差异。
然而,从泛函分析的角度来看,两者几乎没有差异。静态的与动态的,不过是考虑问题的环境不同,一个在公式中,另一个在函数空间中,如公式或公式中考虑问题。
最优化问题的基本结构通常涉及构建抽象的拉格朗日泛函:
公式。
所有的具体拉格朗日函数/泛函都是这个抽象形式的特例。
公式空间的性质极为优越,如有界闭集具有紧性,同时对偶空间就是自身,对偶作用表现为内积(一般Banach空间没有内积,但可以用线性泛函的作用来替代,即公式式中的尖括号),这极大地简化了最优化问题。
例如公式最优化问题公式,拉格朗日函数的构建,实质上是对偶向量作用于约束函数上(有限维表现为内积):
公式。配合上所谓的KT条件,求导,问题就解决了。
这里的公式就是公式,公式就是公式。
这就是公式的特例!
一般的希尔伯特空间也很好,因为有表示定理,我们知道其对偶空间就是自身,从而拉格朗日乘子就是空间本身的一个元素(一个向量),这与公式中是一样的。
一个简单的无限维最优化问题如下:
公式。
约束条件是以泛函形式给出的,泛函的好处是值域是公式(不考虑复泛函),公式的对偶空间还是公式,对偶作用就是内积(数乘)。
因此,在这里,公式的特例就是公式。
然后,求变分,问题就解决了。
无限维空间中,KT条件不会写?其实没有区别,就是互补松弛条件一样适用!
公式。若公式,则公式。
你看,两者之间存在什么差异吗?没有。
然后,最佳控制本质上就是函数空间上的一种特殊最优化问题,只是约束条件是微分方程。
公式。
从最抽象的拉格朗日形式(即公式)出发(但需考虑适当的函数空间),就可以证明庞特里亚金的最大原理。
当然,这个证明并不简单,但切入点就是如此。