Байесовская теория классификации

Видеозаписи

Лекция

Семинар

Содержание лекции

• Байесовская теория классификации. Оптимальный байесовский классификатор.
• Генеративные и дискриминативные модели классификации.
• Наивный байесовский классификатор. Линейный наивный байесовский классификатор в случае экспоненциального семейства распределений.
• Метод парзеновского окна. Выбор функции ядра. Выбор ширины окна, переменная ширина окна.
• Нормальный дискриминантный анализ. Квадратичный дискриминант. Вид разделяющей поверхности. Подстановочный алгоритм, его недостатки и способы их устранения. Линейный дискриминант Фишера.
• Смесь многомерных нормальных распределений. Сеть радиальных базисных функций (RBF) и применение EM-алгоритма для её настройки. Сравнение RBF-сети и SVM с гауссовским ядром.
• Мультиномиальный наивный байесовский классификатор для классификации текстов.
• Связь линейного дискриминанта Фишера с методом наименьших квадратов.
• Жадное добавление признаков в линейном дискриминанте, метод редукции размерности Шурыгина.
• Робастное оценивание. Цензурирование выборки (отсев объектов-выбросов).

Материалы

• Презентация Voron-ML-BTC-slides.pdf (PDF, 1,1 МБ) — прикреплена к публикации.

Материалы курса © К. В. Воронцов. Текст и слайды распространяются по лицензии CC BY-SA 3.0 — на условиях этой лицензии они воспроизведены здесь без изменений. Видеозаписи размещены на YouTube и встроены по ссылке; их копии здесь не хранятся.