Декоррелирующее преобразование (Whitening)

Декоррелирующее преобразование

Пусть $x$ некоторая случайная величина. $x\sim F(\mu ,\Sigma ),\mu =\mathbb {E} [x],\Sigma =cov(x,x)$ — ковариационная матрица.

Следующее преобразование называется декоррелирующим:

$z=(\Sigma )^{-1/2}(x-\mu )$

Его свойства:

DANGER! Это место вызывает сомнения или непонимание! why?

$\mathbb {E} [z]=0,cov(z,z)=I$

Порожденное расстояние

Расстояние Махалонобиса задается следующим образом:

$\rho _{M}(x,x')=\rho _{\operatorname {E} }(z,z')={\sqrt {(z-z')^{T}(z-z')}}=$

$={\sqrt {(x-x')^{T}\Sigma ^{-1/2}\Sigma ^{-1/2}(x-x')}}={\sqrt {(x-x')^{T}\Sigma ^{-1}(x-x')}}$

где $\rho _{M}$ — расстояние Махалонобиса, $\rho _{E}$ - расстояние Евклида.

Примечания

Декоррелирующее преобразование переводит сферу Махалонобиса

$G_{\alpha }=\{x:\rho _{M}(x,\mu )=\alpha \}$

в сферу в нормализованном пространстве

$ImG_{\alpha }=\{z:\rho _{E}(z,0)=\alpha \}$