勒让德变换的几层理解

勒让德变换定义:

对于一个函数f(x),勒让德变换函数为 f^*(y) = \sup\limits_x \{ y^Tx - f(x)\}.

第一层:函数上境图的支撑超平面的截距

考虑f(x)上境图的全部支撑超平面z=k^Tx + b.每一个超平面都由斜率向量k与截距b来决定的.我们如果把所有支撑超平面的斜率和截距的配对写在一起:

\{(k,b): z=k^Tx + b \text{ is a supporting plane}\},

就得到了一个以斜率k为自变量以截距b为函数值的函数。这个函数再乘以-1即得到勒让德变换。这一层理解可以方便的得到如下两个结论:

定理:如果gf的凸包函数,那么g^* = f^*.

证明:因为fg共享所有的支撑超平面,所以它们的勒让德变换也是相等的.

定理:如果f是个凸函数,那么f^{**}=f

证明:凸函数可以写成自己的支撑超平面函数的上确界函数,f(x) = \sup\limits_k\{k^Tx+b\}. 而此时b = -f^*(k). 所以

f(x) = \sup\limits_k\{k^Tx+b\} = \sup\limits_k\{k^Tx-f^*(k)\} = f^{**}(x)

对称性:如前所述如果(x_0,y_0)满足关系使得z={y_0}^Tx-f^*(y_0)正好是位于x_0点处f(x)的支撑线.那么就有f(x_0) + f^*(y_0) = {y_0}^Tx_0,

如果其中x_0y_0的对应关系是一对一的,那么就可以互为对方的函数(比如f是光滑凸函数的情况下)。此时如果f是一个可微函数,就有可以方便的到,

定理:互相做为对方的函数的x,yf,f^*满足如下关系

\frac{\partial}{\partial x}f = y, \frac{\partial}{\partial y}f^* =x

\frac{\partial^2}{\partial x^2}f = \frac{\partial}{\partial x}y, \frac{\partial^2}{\partial y^2}f^* =\frac{\partial}{\partial y}x

\frac{\partial^2}{\partial x^2}f \frac{\partial^2}{\partial y^2}f^* = 1

第二层:余切丛上的拉格朗日量

 

 

 

 

Advertisements

发表评论

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / 更改 )

Twitter picture

You are commenting using your Twitter account. Log Out / 更改 )

Facebook photo

You are commenting using your Facebook account. Log Out / 更改 )

Google+ photo

You are commenting using your Google+ account. Log Out / 更改 )

Connecting to %s