-
所谓的光辉岁月,并不是以后,闪耀的日子,而是无人问津时,你对梦想的偏执。
变动量因子非线性组成原则的分析
<
/p>
在本文中
,
变动量因子的提出是为了提高基于动量非线性主成分分析
(PCA)
的动量项的性能
首先
,
平滑误差函数是用来定义描述估计误差的估计之间的分离矩 阵和其
最优值。
然后
,
使用一个非线性函数
,
它的变动量因子是根据平 滑误差函数来获得
的。自适应盲源分离的计算机仿真结果证明这个方法能够比小幅增加计
算复杂
性的
PCA
具有更快的收敛速度和更低的失调误差 比。
关键词:
盲源分离
;
动量项
【即加上某比例的上次
加权值改变量
,
以改善收敛
过程中振荡的现象及加速收敛
.
】 p>
;
非线性主成分分析
;
收敛性
;
动量因子
一,介绍
盲源分离
(BSS)
已经得到了广泛的认可是由于其估量源信号的 能力,这种源
信号是来自于可观测的混合成分,并且这种成分不需要获取任何先验信息的
信息源或其混合通道。这种灵活性已经使
BSS
在许多领域广受欢迎
,
如无线通信、
语音信号处
理的技术、图像和生物医学信号处理
[1]
。
既定的
BSS
算法可以分为两类
:
批处理
BBS
和自适应
BSS< /p>
。自适应
BSS
算法比批
处理技术有很大的
优势,因为他们能够在不同的环境中跟踪时间而且具有较低
的计算复杂性
[2]
。
我们这篇报告研究的 重点是非线性
PCA(NPCA)
的自适应
BSS
算法
[3]
。众所周
知
,NPCA
很普遍的解决了独立成分分析或
BSS
问题的技术。作为
NPCA
也属于
LMS
类
型算法
[4],
它有一个很大的问题就是不同的环境其收敛速度可能非常缓慢。一
放弃很简单,但你坚持到底的样子一定很酷!
1
所谓的光辉岁月,并不是以后,闪耀的日子,而是无人问津时,你对梦想的偏执。
项有效来提高收敛速度的
NPCA
的解决方案是将动量项 每次迭代的过程中进行合
并
,
并且它在当前时间步的分离 矩阵取决于电流梯度和前面那步重量的改变
【
5,6
】< /p>
。
直观地说
,
如果前面的 分离矩阵的重量变化大
,
那么当前更新将加速这项分
离的
过程,这个过程对于凸函数只增加了小部分的份额。因此
,
更快的收敛速度
能更好的获得分离矩阵。然而
,
这个动量因子在动量
< p>NPCA算法不仅掌控收敛速度
也取决于最终的失调误差
一个大的动量因子的值能够保证快速的收敛速度但
是增加了最后的
失调
,
而一个较小的值则会降低最终的失调但会降低收敛速度。
< br>所以随时间改变的动量因子应该在收敛速度和失调误差之间做好权衡。
< br>沿着这个思路,本报告提出一种新的
NPCA
算法,它适用于一个非线性变 动
量因子,因此收敛速度要快于那些带有一个复杂动量因子的
NPCA< /p>
算法
本文的其余部分如下。在
第二部分
,
我们用公式表示了动量
NPCA
算法和 基本
的
BSS
问题。在第三部分
,
变动量因子的计算过程做出改进。第四节给出了我们
这项方法的性能评测。最后
,
在第五部分
,
我们得出了结论。
二,
BSS
和非线性
PCA
BSS
问
题
制< /p>
定
如
下
,
给
定
一
个
序
列
的
混
< p>合信
号
向
量
,它是根
据产生的
这里
t
< p>代表时间指数,并且是一个在通常情况下可以忽略的加性噪
放弃很简
单,但你坚持到底的样子一定很酷!
2
所谓
的光辉岁月,并不是以后,闪耀的日子,而是无人问津时,你对梦想的偏执。
< br>声,矢量
号,
是一个不可知的
是最多带有
一项高斯分布独立不可测的源信
的混和矩阵,为了简化问题,我们假设将一些
,
BSS
的主要目的问题是处理每个
x(t)
源信号与混合矩阵相匹配,
例如:
来估算原始信源
s(t)
,这相当于通过找到一个分离矩阵
B
来实现源信号 p>
,
这是对
混合矩阵
么
的逆操作。然后
,
输出信号向量可以通过
来获得,那 p>
就是所估计的源矢量。
可以使用一个两层分离系统来估算:这
用一种 普通的方式,分离矩阵
些混合矩阵首先应该用一个去相关或者白化矩阵来进行预处理,其
次它的源分
离能够利用他的正交分离矩阵
来完成。假设白化矩阵
是通过批处理或者
的形式,本文中
,
我
< p>在线运算得来的【1
】
,则整个的分离矩阵可以写作
们关注的
NPCA
算法已经从理论上证明了
p>
执行
BSS
采用正交约束,
NPEC
算法的价值函数如下所示
这里的
p>
代表数学期望算子,
代表非线性函数,
关于
代表
欧几里得范数,
的梯度是
和
束分离矩阵
W,< /p>
自然梯度的成本函数
代表分离信号。
通过使用正规化约 p>
是
放弃很简单,但你坚持到底的样子一定很酷!
3
所谓的光辉岁月,并不是以后,闪耀的日子,而是无人问津
时,你对梦想的偏执。
分离矩阵
基于
的 自然梯度的更新方程可导出如下
是步长参数。
三.变量动力因子算法
众所周知
,
自然梯度算法比经典的随机梯度算法
[8]
运行起来更高效。 然而
,(5)
中的更新形式也属于
类型算法
;
这个算法存在一个问题就是它的收敛速
算法性能的方案,
度缓慢。
我们通过合并动量项来有效的改善
描
述为一个二阶递归方程的分离矩阵,如下所示
这里
代表动量项,
是测量加在梯度下降上的动
量
项
的
动
量
因
子
< p>,显
而
易
见
地
,
如
果
将
置
0
,< /p>
那
么
动
量
项
算法将降低到标准动量项(公式【
5
】中体现)
在自适应滤波领域已经有人提出对于动量项算法收敛性质的综合分析
表明,在<
/p>
结果
时,动量项改善了收敛速度,然而这项改善也相应的增加
p>
了最后的失调:较大的
反之亦然。为了减少
报告中展现。
会有较快的收敛速度但同时也会导致较大的失调,
算法的局限性,合并变动量因子将会在我们的
我们所提出的算法的原理是动量因子应该随着估计分离矩阵和它的最优
放弃很简单,但
你坚持到底的样子一定很酷!
4
-
-
-
-
-
-
-
-
-
上一篇:mydream英语作文小学
下一篇:毕业后的打算 英语作文