实值复变函数求导 ——(Wirtinger derivatives)_wirtinger导数-程序员宅基地

技术标签: 算法  虚数  神经网络  数字信号处理  

1.背景知识

在工程应用中,特别是信号处理领域,经常会遇到一些关于复信号的计算,一个典型的例子就是著名的快速傅里叶变换(FFT),它会将实信号也映射为复信号。与实信号相比,复信号包含额外的相位信息。某些物体,例如phase object,其有效信息完全包含在相位信号中。 而且实数作为复数的一个子集,针对复信号设计的算法往往有更加广泛的应用。因此,研究复信号是非常有必要的。    

一些余弦波叠加的FFT分析(图片来源:维基百科)

常见的对的复信号的处理是将其实部和虚部分开,然后进行单独处理,这样就可以用处理实信号的方法解决复信号的问题。但是,这种方法往往包含很多重复步骤分别用来处理实部和虚部。 我们希望能够直接在复数域进行相关分析,从而让整个算法的结构变得更加精简。

信号复原是信号处理中一个重要的方向,主要研究根据测量结果恢复出原始信号,而这个问题常常被看作是一个优化问题。解决优化问题经常要用到函数的梯度,因此有必要研究复变函数的一些求导理论。

2.经典的复变函数可导性

在传统的复变函数理论中,可导性的要求非常严格,具体定义为:如果复变函数f(z)z_0处可导,那么极限

                                                                   \lim_{z \to z_0} \frac{f(z)-f(z_0)}{z-z_0}

总是存在,与z趋近于z_0的路径无关。因此,若将其写成实部和虚部的形式,那么对于函数f(z) = u(z)+iv(z)和变量z = x+iy, 必须满足条件:

                                                                           \frac{\partial u}{\partial x} = \frac{\partial v}{\partial y}, \frac{\partial u}{\partial y} = -\frac{\partial v}{\partial x},

这一性质与势能函数类似,即做功只与始末位置有关,而与路径无关,比如重力势能只与高度有关。因此其在一个封闭路径上的积分为0,从而可导函数具有上述的偏导数约束。 

重力势能(来源:百度百科)

                         

这种定义下的导函数是实数导数理论的一个直接推广,但是适用性较窄,使用时限制条件较多。一类典型的不具有这种可导性的函数包括所有的实值复变函数(非常函数)。对于这种函数,u(z)不为常数,v(z) = 0,因此\frac{\partial v}{\partial y} = \frac{\partial v}{\partial x} = 0,必不满足上述偏导数条件。但是,这类实值函数在实际应用中很常见,一个例子是评价函数。对于一个复原后的复信号,我们对它的评价一定为一个实数,这样才可以用该指标的大小评价信号的好坏(一般复数无法直接比较大小)。在模仿深度学习进行误差反向传播更新的过程中,必然会涉及到实值复变函数的求导,而上述导数定义无法使用,因此引入了Wirtinger导数体系解决这个问题。

3. Wirtinger 导数

Wirtinger 导数由Remmert与1995年提出 [1],用于解决实值复变函数的问题。首先通过实部与虚部分离的方法研究一个复变函数f(z) = F(x,y) = U(x,y)+iV(x,y), z = x+iy的微分问题。根据多元函数的微分性质

                                                dF = \frac{\partial F}{\partial x} dx +\frac{\partial F}{\partial y} dy = \frac{\partial U}{\partial x} dx + \frac{\partial V}{\partial x} idx + \frac{\partial U}{\partial y} dy + \frac{\partial V}{\partial y} idy,

根据z与x和y的关系,可将其改写成关于z的微分:

                                                                              x = \frac{z+z^*}{2}, dx = \frac{dz+dz^*}{2}\\ ~~~~~y = \frac{z-z^*}{2i}, dx = \frac{dz-dz^*}{2i},

带入上式可得,若dF = \frac{\partial F}{\partial z}dz + \frac{\partial F}{\partial z^*}dz^*,那么

                                                                                  \frac{\partial }{\partial z} = \frac{1}{2}(\frac{\partial }{\partial x}-i\frac{\partial }{\partial y})\\ ~~~~~\frac{\partial }{\partial z^*} = \frac{1}{2}(\frac{\partial }{\partial x}+i\frac{\partial }{\partial y}),

这两个导数就被称为Wirtinger导数(Wirtinger derivatives)。

根据上述定义,可以得到一个Wirtinger求导法则中非常重要的一组等式

                                                              \frac{\partial z^*}{\partial z} = \frac{1}{2}\left[\frac{\partial x}{\partial x}-i\frac{\partial (-iy)}{\partial y}\right] = 1-i*(-i) = 0\\ ~~~~~\frac{\partial z}{\partial z^*} = \frac{1}{2}\left[\frac{\partial x}{\partial x}+i\frac{\partial (iy)}{\partial y}\right] = 1+i*i = 0.

类比多元函数中偏导数恒为零的情况,我们可以很自然得得出一个结论:在Wirtinger求导法则中,zz^*可以看作两个互不相关的变量,只要分别对其单独求导即可。例如,对z求导时,可将z^*看作常量,反之亦然。

最后举一个例子。复数的模平方的计算公式为\|z\|^2 = z^*z,那么在Wirtinger导数体系下,其关于z的导数为

                                                                 \frac{\partial \|z\|^2}{\partial z} =\frac{\partial z^*z}{\partial z} = z^*, \frac{\partial \|z\|^2}{\partial z^*} =\frac{\partial z^*z}{\partial z^*} = z.

模函数也为一个实值函数,它也具有实值函数特有的求导性质

                                                                                         dF = 2Re(\frac{\partial F}{\partial z}dz).

对于梯度下降法,其最速下降方向为\frac{\partial F}{\partial z^*},其中F为实值复变函数。

参考文献:

[1] Remmert, R. (1991). Theory of complex functions (Vol. 122). Springer Science & Business Media.

[2] (一份实用课件) https://mediatum.ub.tum.de/doc/631019/631019.pdf

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/weixin_37872766/article/details/107673096

智能推荐

python存txt不删之前_我怎样才能保存到一个.txt文件而不覆盖其中已经存在的所有内容?...-程序员宅基地

文章浏览阅读604次。我在空闲时间做一个应该是非常基本的操作系统。但是,我试图创建它以便您可以拥有任意多个用户,但是每次我创建一个新用户时,它都会删除旧用户。到目前为止,我有这个:def typer():print("Start typing to get started. Unfortunately, you cannot currently save your files.")typerCMD = input(" ..._txt存文件之前的留下来

请使用c++通过遗传算法解决旅行商问题-程序员宅基地

文章浏览阅读60次。我可以向您提供关于使用遗传算法解决旅行商问题的一些指导。首先,需要确定旅行商问题的地图数据,然后编写代码,创建一个遗传算法,然后对算法进行调优,以获得最佳路线。最后,将结果显示在地图上,以便查看最终路线。...

学习JAVA游戏服务器开发需要了解的情况_java游戏服务器开发用到数据库吗-程序员宅基地

文章浏览阅读1.3w次,点赞21次,收藏85次。一,游戏服务器开发的工作介绍近来遇到有很多人想从其它开发领域转到游戏服务器开发行业上来,他们或许觉得游戏服务器开发工资高,或许觉得做游戏服务器需要掌握的技术更高级,可以锻炼自己,或许觉得想换个环境等等。不管出于什么原因吧,做为一名几年的游戏服务器开发者,当然是持欢迎态度的,那么我就先介绍一下游戏服务器开发的工作吧,游戏服务器开发具体要做哪些工作呢?1,团队沟通基本上不管做什么开发,都是一个团队来完..._java游戏服务器开发用到数据库吗

PHP开发——Web的世界_php web开发-程序员宅基地

文章浏览阅读1k次,点赞2次,收藏10次。这篇关于PHP的文章主要介绍了PHP的特性以及其在Web开发、CMS系统、电子商务和数据库连结等应用场景。随着云平台、开发工具和移动应用程序等技术的不断发展,PHP将进一步提高其应用广度和深度。未来的PHP将支持更多的技术,并且将成为与Web开发工具、数据库技术、云平台、移动应用程序等相关的技术。此外,PHP未来的发展将更加高效和易用,使其更适合处理大量数据和请求,并充分考虑用户界面和易用性。_php web开发

windows启动tomcat闪退_tomcat windows闪退-程序员宅基地

文章浏览阅读1.2w次。现象:windows下双击tomcat\bin\startup.bat时闪退原因:缺少环境变量导致解决方法:打开编辑tomcat\bin\startup.bat,头部加入以下代码,一个是JAVA目录,一个是Tomcat目录SET JAVA_HOME=C:\Program Files\Java\jdk1.6.0_39SET TOMCAT_HOME=D:\hunk\work\apache-tomcat_tomcat windows闪退

数组内存存储_64位平台数组内存-程序员宅基地

文章浏览阅读201次。数组内存存储1. 基本类型数组的初始化2. 引用类型数组的初始化1. 基本类型数组的初始化 int[] array; array = new int[5]; for (int i = 0 ; i<array.length;i++){ array[i] = i + 1 ; } System.out.println(Arrays.toString(array));内存分析:2. 引用类型数组的初始化//定义Person类class Person{ private S_64位平台数组内存

随便推点

Android开发 入门篇(二) - 常用UI控件_能(textview、edittext、button、progressbar、alertdialog-程序员宅基地

文章浏览阅读915次,点赞2次,收藏7次。date: 2020-01-12 21:46:05文章目录控件ButtonTextViewEditTextImageViewProgressBarAlertDialogProgressDialog布局LenearLayoutandroid:layout_gravityandroid:layout_weightRelativeLayoutFrameLayout百分比布局其他自定义控件ListVie..._能(textview、edittext、button、progressbar、alertdialog、progressdialog、lis

python3.4中文版下载-Python 3.4 入门指南 官方中文版.pdf-程序员宅基地

文章浏览阅读1.2k次。【实例简介】【实例截图】【核心代码】CONTENTS1 开胃菜 22 使用 Python 解释器 42.1 调用 Python 解释器 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42.2 解释器及其环境 . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...._python_3.4_入门指南(官方中文版).pdf

java json 修改字段_我们如何使用Java中的Jackson来更改JSON中的字段名称?-程序员宅基地

文章浏览阅读1.2k次。杰克逊注释@JsonProperty上使用期间的属性或方法的序列或反串行化的JSON。它带有一个可选的' name '参数,当属性名称与JSON中的' key '名称不同时,该参数很有用。默认情况下,如果键名称与属性名称匹配,则将值映射到属性值。在下面的示例中,我们可以使用@JsonProperty注解更改JSON中的字段名称。示例importjava.io.IOException;import...

repo批量创建远端仓库----建立自己的android代码仓库_android repo批量创建gerrit仓库-程序员宅基地

文章浏览阅读3.5k次。转载请注明:http://blog.csdn.net/yanxiangyfg android代码团队开发中,为了团队合作我们需要建立代码仓库,以便进行团队间的协作. android最常用的代码管理工具是git, 那么团队间合作各自需要合入特性,这样就需要一个地方来存放代码,一般又三种方法:1>在github上进行托管2>建立本地代码库,团队所以代码都提交这个本地仓_android repo批量创建gerrit仓库

剑指offer第二版 - 面试题43_剑指offer第二版43-程序员宅基地

文章浏览阅读184次。面试题43: 1-n整数中1出现的次数**题目:**输入一个整数n,求1-n这n个整数的十进制表示中1出现的次数。例如,输入12,1-12这些整数中包含1的数字有1、10、11和12,1一共出现了5次。解题思路:假设数为21345。将21345分为1 ~ 1345、1346 ~ 21345三部分。对于1346 ~ 21345,分析最高位为1,即1出现在万位的次数。如果最高为大于1,则次..._剑指offer第二版43

使用python生成随机数(random模块)_random.random()产生的数-程序员宅基地

文章浏览阅读5.4k次,点赞2次,收藏17次。使用python生成随机数(random模块)_random.random()产生的数

推荐文章

热门文章

相关标签