-
1.
自适应信号处
理基本概念，解决的问题，适用条件下（平稳、短时平稳）
，结构分类
< br>。
自适应信号处理
:
是研究一类结构可变或可以调整的系统，它通过自身与外界环境的接触来改善自身对信号处理的性
能。通常这类系统
是时变的非线性系统，可以自动适应信号传送变化的环境和要求。
自适应系统和一般系统类似，可以分为开环系统（闭
环：计算量小，
收敛慢；开环：计算量大，收敛快）和闭环系统两种类型。开环系统仅由输入确定，而闭环不仅取决于输入，还依
赖
于系统输出的结果。自适应信号处理所研究的信号既可以是随机平稳信号，也可以是局
部平稳随机信号，也可以是窄带或者是宽带信
号。
2
、信号相关矩阵及其性质，梯度运算
:
输入信号的相关矩阵
：
R
< br>E[X
*
X
T
< br>]=
下性质：
①对应于
R
的不同特征值的特征向量都是正交的。
<
/p>
②
R
是正定（或半正定）矩阵，它所有的
特征值都为实数，且大于或等于零。
③所有特征值之和等于<
/p>
矩阵
R
的迹
，即
为输入信号的功率。
【定义一个幺向量：
1=[
1 1
…
1
]
T
，于是，
R
的特
征值之和为
1
T
∧
1=1
T
Q
H
RQ1=
=
上式等
号右边的求和即为矩阵
R
的迹（矩阵主对角线所有
，相关矩阵
R
是厄米特矩阵，即满足
R
*
= R
T
。作为厄米特矩阵，它具有以
元素之和）
，亦即系统
输入信号的功率。
】
④信号相关矩阵
R
可以被分解为一个实对称矩阵和一个实反对称矩阵，即：
R=R
a
+jR
b
，其中，实矩阵
R
a
< br>、
R
b
分别满足条件：
R
a
T
=R
a
和
R
b
T
=-
R
b
⑤若<
/p>
W
为
L+1
维的
权向量，
则对相关矩阵
R
，
存在关于
W
的一个瑞利商，
且对于所有
W
的瑞利商均为实数。
瑞利商
Ray(W)=
⑥
R
可分解为
R=Q
Q
T
where Q
< br>[q
0
,q
1
< br>,
…
q
l
],
<
/p>
信号子空间：
R
s
非零特征值对应的特征向量张成的子空间。
Span{q
0<
/p>
,q
1
,
…
q
s
}
噪声子空间：信号子空间的正交补空间
零特征值→特征向量。
Span{ q
s+1
,q
s+2
,
…
q
l+1
}
梯度运算：
=[
]
T
式中
分别是向量
W
的第
l
个元素
的实部和虚部，即
< br>；
ε
即为
。
实标量函数的梯度是一个向量，其方向代表该函数最陡下降时
W
变化方向的负向。
（
）
=2RW
3
、性能测量方法。
（代价函数）
①最小均方误差（
MSE
）
：准则
--
误差信号功率最小：
< br>
ε
(W)=E[
]=
E[
]+
-
2Re(W
T
P)
，
（代价函数）
→
W
opt
=R
x
-1
P*.
)
)
]
–
P
T
W
opt
(
ε
(W
opt
)=E[
ε
min
=E[
]-
W
opt
T
P
---(
P
]+P
T
R
-1
RW
o
pt
-
2W
T
opt
P
=
E[
<
/p>
②
最大信噪比
：
SNR
=
,
SINR=
SNR=
W
opt
=arg
< br>R
s
’
最大特征值对应特征向量
。
R
s
’
W
opt
’
=
λ
max
W
opt
< br>’
③最大似然准则
(
ML
)
：
=arg
，高斯噪声，干扰背景
④最小
噪声
方差
(
MV
)
：
W
opt
=
λ
1
,
λ
=
<
/p>
评价自适应系统
性能的指标
：收敛速度，
跟踪能力，稳健性，计算量，算法结构，数值稳定性，稳态性能。
4
、权向量求解方法：
①最陡下降法：
-
μ
▽
②牛顿法：
-
μ
▽
适用范围：代价函数是凸函数，不存在局部极值点。
收敛方向
计算量
收敛速度
收敛条件
0<
μ
<
最陡下降法
梯度下降最快
小
慢
牛顿法
直接指向最优权
大
快
0<
μ
<1
μ
:
特征值散布程度
【
最速下降法：
0<
μ
<
牛顿
法：
0<
μ
<1
收敛条件
会证明！
最陡下降法：
-
μ
▽
在初始值位于椭圆族主轴上时，它两个收敛特性相同。
】
梯度：▽
=
|
ω
=
<
/p>
=2
λ
（
）
于是：
- <
/p>
2
μ
λ
（
）
即：
=(1-2
μ
λ
)
则可将第
k
次权偏差值迭代递推表示为：
=(1-2
μ
λ
)
k
而将第
k
次权值表示成：
+
(1-2
μ
λ
)
k
（
）
相继两次权偏差值迭代的比值均为
公比：
(1-2
μ
λ
< br>)=
γ
，则上述迭代过程“稳定”的充要条件是
|
γ
|=|
1-2
μ
λ
|<1
，
即：
0<
μ<
/p>
<1/
λ
。
<
/p>
则算法收敛于最佳解：
牛顿法：
=
。
-2
P
*
R
-1
P
*
、▽
=2R
-2
P
*
→
= (1-2
μ
)
▽
=2R
+2
μ
.
→
= (1-2
μ
)
k+1
所以，收敛条件：
0<
μ
<1 .
5
、自适应实现算法：
（最陡下降法，牛顿法，
仅给出迭代公式）
①微商法
：梯度估计：
=
β
（因权微扰而不停留在
所引起的均方误差
平均增量
β
为“
性能损失
”
，即
β
=1/2[
ε
(
-
σ
)+
ε
(
+
σ
)]-
ε
(
).
对
于单个实权的
二次型性能函数，
β
=<
/p>
λ
σ
）
；
2
P
（
扰动
，即
P =
=
,
此式给出了用最小均方误差归一化的均方
误差平均增量。
）
，
excMSE
（
超量均方误差
：
excMSE=E[
,
自适应过程中权值噪声将引起稳态权向量解围绕最佳点随机地变化，即
）
,
系统输出均方误差在“碗底”附近“徘徊”
，结果就产生了“超量”均方误差，
于是会使稳态均方误差输出值大于
M
（
失调
，
M=
,
它是超量均方误差和最小均方误差的相对比值，且是一个无量纲的量。它是自适应能力所付代价的归一化量度。<
/p>
失调
M
并不包括人为将权偏离（而不是由
噪声）所引起的扰动
P
。
）
总失调
：
M
tot
=M+P
< br> .
P
opt
≈
A/P
o
pt
≈
M
tot
-
P
opt
≈
M
tot
/2
。也就是说，当扰动等于总失调的一半时，总失调量达到最小
值。
------
性能损失
参数选择对性能影响：
σ
，
N(
样本数
),
μ
P+M
最小选择
σ
（扰动）
性能评估：
N
越大，估计方法越小，<
/p>
β
↓，
excMSE
↑，稳定性能好，但收敛慢，
μ
越大，
（满足收敛条件）
。
收敛速度快
，
excMSE
变大，稳定性能变差。
性能分析：
N
越大，
??
越大，
??
越小，超量均
方误差就越小；
N
越大，
??
越大，
??
越小，
失调量就越小
时间常数
：①权向量收
敛：
γ
n
=1-2
μ
λ
n
,
τ
n
=
=
②学习曲线（
）
:
τ
③自适
应算法：
（
τ
收敛时间常数：
< br>②
LMS
最小均方差
：基于最陡
下降法。
最陡下降法
+
瞬时梯度估计
）
n
=
（
τ
）
n
,
(
迭代次数
)
，
----
（物理时间）
=
=
mse
mse
mse
→
优点：计算量小
缺点：瞬时梯度估计
收敛条件：
0<
μ
<1/
λ<
/p>
max
(
0<
μ
<1/tr(R)
)
，
k
→∞
,E[V
k+1
]
→
0 ,
V
k+1
→
0
=
<
/p>
’
’
时间常数
：
a.
权向量收敛：
γ
< br>n
=1-2
μ
λ
n
,
τ
n
=
b.
学习曲线（
）
:
τ
c.
③自适应算法：
（
τ
τ
=T
MSE
）
n
=
（
τ
mse
=
=
mse
mse
）
n
收敛性分析（会推导）
。
K
→∞
,E[V
k
]
→
0.
0<
μ
<
1/
λ
max
0<
μ
< 1/trR
mse
和
T
MSE
关系：
τ
mse
LM
S/Newton
（最小均方牛顿算法）
：
→
③
SER
（序贯回归算法）
SER
是基于牛顿法梯度搜索算法。以迭代方式求解
R
-1
，降低了运算量。由于使用牛顿梯度搜索算法，所以收
敛速度快，快于
LMS
算法。遗忘因子
α的选择要考虑信号的平稳时间长度，α越大，估计方差越小。
→
a.
R
的估
计：
=
]
→
=
=
b.
P<
/p>
的估计：
P=E[
c.
< br>
迭代公式：
R
(
隐含牛顿法，一步收敛
)
d.
求解：
（矩阵求逆引理）