B/E/D 行间 equation/align 内 37 处 \dfrac 改 \frac;sec5 行内 1 处 \frac 改 \dfrac。行内已是 \dfrac 的保留;导数斜杠记号 ∂f/∂x 非分式、未动。
268 lines
8.3 KiB
TeX
268 lines
8.3 KiB
TeX
\section{背景知识}
|
||
\label{sec:background}
|
||
|
||
本附录只整理后续似然函数与 \gls{crb} 推导反复使用的概率分布、Fisher 信息和 \gls{crb} 基础公式。这里的广义参数 $\theta$ 或 $\bm\theta$ 不代表多星主线中的全局 \gls{doa};多星主线的方向参数仍以 $\boldsymbol\xi=[\alpha,\beta]^\Tran$ 为准。
|
||
|
||
\subsection{高斯变量的 PDF}
|
||
|
||
\subsubsection{一维实高斯随机变量}
|
||
|
||
一维实高斯随机变量 $X \sim \mathcal{N} \left( \mu, \sigma \right)$~\footnote{本文使用 $\sigma$ 表示高斯随机变量的方差。} 的 \gls{pdf} 为
|
||
%
|
||
\begin{align}
|
||
\label{eq:1d_real_gauss_pdf}
|
||
f_X \left( x \mid \mu, \sigma \right)
|
||
= \frac{1}{ \sqrt{2\pi\sigma} }
|
||
\exp \left[ -\frac{ \left( x - \mu \right)^2 }{ 2\sigma } \right].
|
||
\end{align}
|
||
|
||
|
||
\subsubsection{一维圆对称复高斯随机变量}
|
||
|
||
\begin{mdquote}
|
||
圆对称复高斯(Circularly Symmetric Complex Gaussian)随机变量
|
||
$Y \sim \mathcal{CN} \left( \mu, \sigma \right)$ 的实部和虚部是独立的实高斯随机变量。
|
||
即令 $Y = Y^{(r)} + j Y^{(i)}$,有
|
||
$Y^{(r)} \sim \mathcal{N} \left( \mu^{(r)}, \dfrac{\sigma}{2} \right)$,
|
||
$Y^{(i)} \sim \mathcal{N} \left( \mu^{(i)}, \dfrac{\sigma}{2} \right)$,
|
||
其中 $\mu = \mu^{(r)} + j \mu^{(i)}$。
|
||
\end{mdquote}
|
||
|
||
一维圆对称复高斯随机变量 $Y \sim \mathcal{CN} \left( \mu, \sigma \right)$ 的 \gls{pdf} 为
|
||
%
|
||
\begin{align}
|
||
\label{eq:1d_cplx_gauss_pdf}
|
||
f_Y \left( y \mid \mu, \sigma \right)
|
||
&= f_{Y^{(r)}} \left( y^{(r)} \,\middle|\, \mu^{(r)}, \frac{ \sigma }{ 2 } \right)
|
||
\times
|
||
f_{Y^{(i)}} \left( y^{(i)} \,\middle|\, \mu^{(i)}, \frac{ \sigma }{ 2 } \right) \nonumber
|
||
\\
|
||
&= \frac{1}{ \pi \sigma }
|
||
\exp \left(
|
||
-\frac{
|
||
\left( y^{(r)} - \mu^{(r)} \right)^2
|
||
+
|
||
\left( y^{(i)} - \mu^{(i)} \right)^2
|
||
}{
|
||
\sigma
|
||
}
|
||
\right)
|
||
= \frac{1}{ \pi \sigma }
|
||
\exp \left(
|
||
-\frac{ \left| y - \mu \right|^2 }{ \sigma }
|
||
\right).
|
||
\end{align}
|
||
%
|
||
其中 $\left|\, \cdot \,\right|$ 表示取复数的模。
|
||
|
||
|
||
\subsubsection{\texorpdfstring{$M$}{M} 维圆对称复高斯随机变量}
|
||
|
||
$M$ 维圆对称复高斯随机变量
|
||
$\mathbf{Z} \sim \mathcal{CN} \left( \bm{\mu}, \mathbf{R} \right)$ 的 \gls{pdf} 为
|
||
%
|
||
\begin{align}
|
||
\label{eq:general_complex_gaussian_pdf}
|
||
f_{\mathbf{Z}} \left( \mathbf{z} \mid \bm{\mu}, \mathbf{R} \right)
|
||
= \frac{1}{ \pi^M \det \left( \mathbf{R} \right) }
|
||
\exp \left[
|
||
-\left( \mathbf{z} - \bm{\mu} \right)^\Herm
|
||
\mathbf{R}^{-1}
|
||
\left( \mathbf{z} - \bm{\mu} \right)
|
||
\right],
|
||
\end{align}
|
||
%
|
||
其中 $\bm{\mu} \in \mathbb{C}^{M \times 1}$ 为均值向量,$\mathbf{R} \in \mathbb{C}^{M \times M}$ 为协方差矩阵,$\det \left( \mathbf{R} \right)$ 为归一化项,使 \gls{pdf} 的积分为 1。
|
||
|
||
在\emph{各维独立且方差 $\sigma$ 相同}的情形下,协方差矩阵退化为 $\mathbf{R} = \sigma \mathbf{I}_M$,即 $\mathbf{Z} \sim \mathcal{CN} \left( \bm{\mu}, \sigma \mathbf{I}_M \right)$,则 \gls{pdf} 简化为
|
||
%
|
||
\begin{align}
|
||
\label{eq:independent_complex_gaussian_pdf}
|
||
f_{\mathbf{Z}} \left( \mathbf{z} \mid \bm{\mu}, \sigma \right)
|
||
= \prod_{i=1}^M
|
||
f_{Z_i} \left( z_i \mid \mu_i, \sigma \right)
|
||
= \frac{1}{ \left( \pi \sigma \right)^M }
|
||
\exp \left[
|
||
-\frac{ \left\| \mathbf{z} - \bm{\mu} \right\|^2 }{ \sigma }
|
||
\right].
|
||
\end{align}
|
||
|
||
|
||
\subsection{CRB 的定义\texorpdfstring{~\cite{kayFundamentalsStatisticalSignal1993}}{}}
|
||
|
||
\begin{mdquote}
|
||
本节的 $\theta$ 和 $\bm{\theta}$ 是广义的参数和参数向量,并非 \gls{doa} 估计问题中的角度。
|
||
\end{mdquote}
|
||
|
||
\Gls{crb},亦称 \gls{crlb},在参数估计理论中给出了\emph{无偏估计量方差的下界}。
|
||
|
||
\subsubsection{单参量的 CRB}
|
||
|
||
假设随机变量 $X$ 的 \gls{pdf} 为 $f_X \left( x; \theta \right)$,其中 $\theta \in \mathbb{R}$ 是待估计参量,且满足正则条件
|
||
%
|
||
\begin{align}
|
||
\mathbb{E}_X \left[
|
||
\frac{
|
||
\partial \ln f_X \left( x; \theta \right)
|
||
}{
|
||
\partial \theta
|
||
}
|
||
\right]
|
||
= 0, \quad \forall\, \theta ,
|
||
\end{align}
|
||
%
|
||
则任何\emph{无偏估计} $\hat\theta$ 的方差必然满足
|
||
%
|
||
\begin{align}
|
||
\mathrm{var} ( \hat\theta )
|
||
\geqslant
|
||
\frac{1}{-\mathbb{E}_X \left[
|
||
\frac{
|
||
\partial^2 \ln f_X \left( x; \theta \right)
|
||
}{
|
||
\partial \theta^2
|
||
}
|
||
\right]}
|
||
=
|
||
\frac{1}{ \mathcal{I} \left( \theta \right) } = \mathrm{CRB}(\theta),
|
||
\end{align}
|
||
%
|
||
其中 $\mathcal{I} \left( \theta \right)
|
||
\triangleq
|
||
-\mathbb{E}_X \left[
|
||
\dfrac{
|
||
\partial^2 \ln f_X \left( x; \theta \right)
|
||
}{
|
||
\partial \theta^2
|
||
}
|
||
\right]
|
||
$ 称为 Fisher 信息,$\dfrac{1}{\mathcal{I} \left( \theta \right)}$ 称为 \gls{crb}。
|
||
|
||
\subsubsection{多参量的 CRB}
|
||
|
||
假设随机变量 $X$ 的 \gls{pdf} 为 $f_X \left( x; \bm{\theta} \right)$,其中 $\bm{\theta} = \left[ \theta_1, \ldots, \theta_K \right]^\Tran \in \mathbb{R}^{K \times 1}$ 是待估计参量,且满足正则条件
|
||
%
|
||
\begin{align}
|
||
\mathbb{E}_X \left[
|
||
\frac{
|
||
\partial \ln f_X \left( x; \bm{\theta} \right)
|
||
}{
|
||
\partial \bm{\theta}
|
||
}
|
||
\right]
|
||
= \mathbf{0},
|
||
\quad \forall\, \bm{\theta} ,
|
||
\end{align}
|
||
%
|
||
则任何\emph{无偏估计} $\hat{\theta}_i$ 的方差必然满足
|
||
%
|
||
\begin{align}
|
||
\mathrm{var} ( \hat{\theta}_i )
|
||
\geqslant \left[ \mathcal{I}^{-1} \left( \bm{\theta} \right) \right]_{ii}
|
||
= \left[ \mathrm{CRB}(\bm{\theta}) \right]_{ii} .
|
||
\end{align}
|
||
%
|
||
其中 $\mathcal{I} \left( \bm{\theta} \right)$ 是 $K \times K$ 的 \gls{fim},其元素定义为
|
||
%
|
||
\begin{align}
|
||
\left[ \mathcal{I} \left( \bm{\theta} \right) \right]_{ij}
|
||
\triangleq
|
||
-\mathbb{E}_X \left[
|
||
\frac{
|
||
\partial^2 \ln f_X \left( x; \bm{\theta} \right)
|
||
}{
|
||
\partial \theta_i \, \partial \theta_j
|
||
}
|
||
\right],
|
||
\quad i = 1, \ldots, K;\, j = 1, \ldots, K .
|
||
\end{align}
|
||
|
||
此外,可以推导得到
|
||
%
|
||
\begin{align}
|
||
\mathbb{E}_X \left[
|
||
\frac{
|
||
\partial^2 \ln f_X \left( x; \bm{\theta} \right)
|
||
}{
|
||
\partial \theta_i \, \partial \theta_j
|
||
}
|
||
\right]
|
||
= -\mathbb{E}_X \left[
|
||
\frac{
|
||
\partial \ln f_X \left( x; \bm{\theta} \right)
|
||
}{
|
||
\partial \theta_i
|
||
}
|
||
\frac{
|
||
\partial \ln f_X \left( x; \bm{\theta} \right)
|
||
}{
|
||
\partial \theta_j
|
||
}
|
||
\right] .
|
||
\end{align}
|
||
%
|
||
因此,\gls{fim} 的元素还可以写作
|
||
%
|
||
\begin{align}
|
||
\label{eq:fisher_element}
|
||
\left[ \mathcal{I} \left( \bm{\theta} \right) \right]_{ij}
|
||
= \mathbb{E}_X \left[
|
||
\frac{
|
||
\partial \ln f_X \left( x; \bm{\theta} \right)
|
||
}{
|
||
\partial \theta_i
|
||
}
|
||
\frac{
|
||
\partial \ln f_X \left( x; \bm{\theta} \right)
|
||
}{
|
||
\partial \theta_j
|
||
}
|
||
\right],
|
||
\quad i = 1, \ldots, K;\, j = 1, \ldots, K .
|
||
\end{align}
|
||
%
|
||
|
||
令$
|
||
\bm{\Psi}
|
||
\triangleq
|
||
\left[
|
||
\dfrac{
|
||
\partial \ln f_X \left( x; \bm{\theta} \right)
|
||
}{
|
||
\partial \theta_1
|
||
},
|
||
\ldots,
|
||
\dfrac{
|
||
\partial \ln f_X \left( x; \bm{\theta} \right)
|
||
}{
|
||
\partial \theta_K
|
||
}
|
||
\right]^\Tran ,
|
||
$ 则 \gls{fim}可以表示为
|
||
%
|
||
\begin{equation}
|
||
\label{eq:compact_fisher_matrix}
|
||
\mathcal{I} \left( \bm{\theta} \right)
|
||
= \mathbb{E}_X \left[
|
||
\bm{\Psi} \bm{\Psi}^\Tran
|
||
\right] .
|
||
\end{equation}
|
||
|
||
\subsubsection{一般高斯随机过程的 CRB\texorpdfstring{~\cite{stoicaPerformanceStudyConditional1990}}{}}
|
||
\label{subsubsec:general_gauss_crb}
|
||
|
||
假设 $M$ 维圆对称复高斯随机变量 $\mathbf{Z} \sim \mathcal{CN} (\bm{\mu} (\bm{\theta}), \mathbf{R}(\bm{\theta}))$,其中均值矢量 $\bm{\mu} (\bm{\theta}) \in \mathbb{C}^{M \times 1}$ 和协方差矩阵 $\mathbf{R}(\bm{\theta})\in \mathbb{C}^{M \times M}$ 由实参数向量 $\bm{\theta}$ 唯一确定,也即复高斯随机变量 $\mathbf{Z}$ 的分布由实参数向量 $\bm{\theta}$ 唯一确定,则 $\bm{\theta}$ 的任何无偏估计的协方差矩阵的 \gls{crb} 可以表示为
|
||
%
|
||
\begin{equation}
|
||
\label{eq:general_gauss_crb}
|
||
[(\mathrm{CRB})^{-1}]_{ij} = \tr \left[
|
||
\mathbf{R}^{-1} (\bm{\theta}) \frac{\partial \mathbf{R} (\bm{\theta})}{\partial \theta_i} \mathbf{R}^{-1} (\bm{\theta}) \frac{\partial \mathbf{R} (\bm{\theta})}{\partial \theta_j}
|
||
\right] + 2 \Re \left\{
|
||
\frac{\partial \bm{\mu}^\Herm (\bm{\theta})}{\partial \theta_i} \mathbf{R}^{-1} (\bm{\theta}) \frac{\partial \bm{\mu} (\bm{\theta})}{\partial \theta_j}
|
||
\right\},
|
||
\end{equation}
|
||
%
|
||
其中 $\theta_i$ 表示 $\bm{\theta}$ 的第 $i$ 个分量。
|
||
|
||
以上公式构成后续各类 \gls{crb} 推导的公共工具箱。 \appref{sec:det_doa_crb}--\appref{sec:det_doa_doppler_crb} 将先把这些公式用于单阵列基线, \appref{sec:A6_multiArrayStatDetDoaDopplerCrb}--\appref{sec:A8_dynIndependentPhaseCrb} 再用于多星主线模型。
|