Сеть радиальных базисных функций
Материал из MachineLearning.
(Новая: '''Радиальные функции.''' - Функции f(x), зависящие только от расстояния между x и фиксированной точ- кой пр...) |
|||
Строка 1: | Строка 1: | ||
- | '''Радиальные функции | + | '''Радиальные функции''' - это функции <tex>f(x)</tex>, зависящие только от расстояния между x и фиксированной точ- |
- | кой пространства X <br /> | + | кой пространства X. <br /> <br /> |
- | Гауссиан <tex>p_j(x) = N(x; \mu _j ,\Sigma _j)</tex> с диагональной матрицей <tex>\Sigma _j</tex> можно записать в виде <br /> | + | Гауссиан <tex>p_j(x) = N(x; \mu _j ,\Sigma _j)</tex> с диагональной матрицей <tex>\Sigma _j</tex> можно записать в виде <br /> <br /> |
- | <tex>~p_j(x) = N_j exp(-1/2 \rho ^2 _j (x, \mu _j)</tex> <br /> | + | <tex>~p_j(x) = N_j exp(-1/2 \rho ^2 _j (x, \mu _j)</tex> <br /> <br /> |
где <tex>N_j = (2\pi )^ {-n/2)(\sigma _{j1} ... \sigma _{jn})^{-1}</tex> - нормировочный множитель,<br /> | где <tex>N_j = (2\pi )^ {-n/2)(\sigma _{j1} ... \sigma _{jn})^{-1}</tex> - нормировочный множитель,<br /> | ||
- | <tex>\rho _j(x, | + | <tex>\rho _j(x, x')</tex> - взвешенная евклидова метрика в n-мерном пространстве X:<br /> |
- | \rho ^2 (x, | + | <tex>~\rho ^2 (x, x') = \Sigma ^n _{d = 1} \sigma ^{-2} _{jd} |\xi _d - \xi _d '| ^2</tex>, <br /> |
- | + | <tex> x = (\xi _1, . . . ,\xi _n), x' = (\xi _1 ', . . . , \xi _n')</tex>. <br /> <br /> | |
- | d=1 | + | Чем меньше расстояние <tex>\rho _j(x, \mu _j)</tex>, тем выше значение плотности в точке x. По- |
- | + | этому плотность <tex>p _j(x)</tex> можно рассматривать как функцию близости вектора x к фик- | |
- | jd | | + | сированному центру <tex>\mu _j</tex> . |
- | Чем меньше расстояние | + | |
- | этому плотность | + | |
- | сированному центру | + | |
- | + | ||
- | + | ||
== Сеть радиальных базисных функций == | == Сеть радиальных базисных функций == |
Версия 19:26, 5 января 2010
Радиальные функции - это функции , зависящие только от расстояния между x и фиксированной точ-
кой пространства X.
Гауссиан с диагональной матрицей можно записать в виде
где - нормировочный множитель,
- взвешенная евклидова метрика в n-мерном пространстве X:
,
.
Чем меньше расстояние , тем выше значение плотности в точке x. По-
этому плотность можно рассматривать как функцию близости вектора x к фик-
сированному центру .
Сеть радиальных базисных функций
Обучение RBF-сети
Обучение сводится к восстановлению плотности каждого из классов с помощью EM-алгоритма. Результатом обучения являются центры и дис- персии компонент . Интересно отметить, что, оценивая дисперсии, мы фактически подбираем метрики , с помощью которых будут вычисляться рас-стояния до центров . При использовании Алгоритма 1.4 для каждого класса определяется оптимальное число компонент смеси.