Распространение ожиданий

Распространение ожиданий (EP) — ​​это метод байесовского машинного обучения . ^[1]

EP находит приближения к распределению вероятностей . ^[1] Он использует итеративный подход, который использует структуру факторизации целевого распределения. ^[1] Он отличается от других подходов байесовского приближения, таких как вариационные байесовские методы . ^[1]

Более конкретно, предположим, что мы хотим аппроксимировать труднообрабатываемое распределение вероятностей с помощью легкообрабатываемого распределения . Распространение ожиданий достигает этого приближения путем минимизации расхождения Кульбака-Лейблера . ^[1] Вместо этого минимизируют вариационные байесовские методы . ^[1]${\ displaystyle p (\ mathbf {x})}$${\displaystyle q(\mathbf {x})}$ ${\displaystyle \mathrm {KL} (p||q)}$${\displaystyle \mathrm {KL} (q||p)}$

Если — гауссово , то минимизируется при и , будучи равными среднему значению и ковариации соответственно ; это называется согласованием моментов. ^[1]${\displaystyle q(\mathbf {x})}$${\displaystyle {\mathcal {N}}(\mathbf {x} |\mu ,\Sigma )}$${\displaystyle \mathrm {KL} (p||q)}$${\displaystyle \мю}$${\displaystyle \Сигма}$${\ displaystyle p (\ mathbf {x})}$${\ displaystyle p (\ mathbf {x})}$

Распространение ожиданий посредством сопоставления моментов играет важную роль в аппроксимации индикаторных функций , которые появляются при выводе уравнений передачи сообщений для TrueSkill .

• Томас Минка (2–5 августа 2001 г.). «Распространение ожиданий для приближенного байесовского вывода». В Джеке С. Бризе, Дафне Коллер (ред.). UAI '01: Труды 17-й конференции по неопределенности в искусственном интеллекте (PDF) . Вашингтонский университет, Сиэтл, Вашингтон, США. стр. 362–369.{{cite book}}: CS1 maint: отсутствует местоположение издателя ( ссылка )

• Документы Минки в Европарламенте
• Список статей, использующих EP.

Эта статья по информатике — заглушка . Вы можете помочь Википедии, расширив ее.

• в
• т
• е