онной задачи:
L
(Θ;
X
m
) =
m
X
j
=1
ln
k
X
i
=1
w
i
p
i
(
x
j
)
!
λ
k
X
i
=1
w
i
1
!
.
Приравняем нулю производную лагранжиана по
w
i
:
∂L
∂w
i
=
m
X
j
=1
p
i
(
x
j
)
k
X
s
=1
w
s
p
s
(
x
j
)
λ
= 0
, i
= 1
, . . . , k.
Умножим левую и правую части на
w
i
, просуммируем все
k
равенств
и поменяем местами знаки суммирования по
i
и по
j
:
m
X
j
=1
k
X
i
=1
p
i
(
x
j
)
P
k
s
=1
w
s
p
s
(
x
j
)
|
{z
}
=1
=
λ
k
X
i
=1
w
i
| {z }
=1
,
откуда следует
λ
=
m
.
Теперь снова умножим левую и правую части производной лагран-
жиана на
w
i
, подставим
λ
=
m
, и, замечая сходство с формулой
g
ji
,
получаем выражение весов компонентов через скрытые переменные:
w
i
=
1
m
m
X
j
=1
w
i
p
i
(
x
j
)
k
X
s
=1
w
s
p
s
(
x
j
)
=
1
m
m
X
j
=1
g
ji
, i
= 1
, . . . , k.
Легко проверить, что ограничения-неравенства
w
i
0 будут вы-
полнены на каждой итерации, если они выполнены для начального
приближения.
Приравняем нулю производную лагранжиана по
θ
i
:
∂L
∂θ
i
=
m
X
j
=1
w
i
k
X
s
=1
w
s
p
s
(
x
j
)
∂θ
i
p
i
(
x
j
) =
=
m
X
j
=1
w
i
p
i
(
x
j
)
k
X
s
=1
w
s
p
s
(
x
j
)
∂θ
i
ln
p
i
(
x
j
) =
m
X
j
=1
g
ji
∂θ
i
ln
p
i
(
x
j
) =
=
∂θ
i
m
X
j
=1
g
ji
ln
p
i
(
x
j
) = 0
, i
= 1
, . . . , k.
Полученное условие совпадает с необходимым условием максимума
в задаче максимизации взвешенного правдоподобия.
ISSN 0236-3933. Вестник МГТУ им. Н.Э. Баумана. Сер. “Приборостроение”. 2012
143
1...,2,3,4,5,6,7,8,9,10 12,13,14,15,16,17,18,19,20