Search results for “machine learning”

Стохастический градиент и линейный классификатор. Лекция курса «Машинное обучение» К. В. Воронцова. Метод стохастического градиента SG.

Нейронные сети: градиентные методы оптимизации. Лекция курса «Машинное обучение» К. В. Воронцова. Биологический нейрон, модель МакКаллока-Питтса как линейный классификатор. Функции активации.

Метрические методы классификации и регрессии. Лекция курса «Машинное обучение» К. В. Воронцова. Гипотезы компактности и непрерывности.

Метод опорных векторов. Лекция курса «Машинное обучение» К. В. Воронцова. Оптимальная разделяющая гиперплоскость. Понятие зазора между классами (margin).

Линейные модели регрессии. Лекция курса «Машинное обучение» К. В. Воронцова. Задача регрессии, многомерная линейная регрессия.

Обобщения линейных моделей. Лекция курса «Машинное обучение» К. В. Воронцова. Метод Ньютона-Рафсона, метод Ньютона-Гаусса.

Отбор признаков, оценивание и выбор моделей. Лекция курса «Машинное обучение» К. В. Воронцова. Цели и подходы отбора признаков. Фильтры, обёртки и встроенные методы.

Теория обобщающей способности. Лекция курса «Машинное обучение» К. В. Воронцова. Теория Вапника-Червоненкиса. Функционал равномерного отклонения частот ошибок. Функция роста, ёмкость семейства алгоритмов. Структурная минимизация риска.

Логические методы классификации. Лекция курса «Машинное обучение» К. В. Воронцова. Решающее дерево. Жадная нисходящая стратегия «разделяй и властвуй». Алгоритм ID3. Недостатки жадной стратегии и способы их устранения. Проблема переобучения.

Линейные ансамбли. Лекция курса «Машинное обучение» К. В. Воронцова. Основные понятия: базовый алгоритм, корректирующая операция.

Продвинутые методы ансамблирования. Лекция курса «Машинное обучение» К. В. Воронцова. Виды ансамблей. Теоретические обоснования. Анализ смещения и разброса для простого голосования.

Оценивание плотности и байесовская классификация. Лекция курса «Машинное обучение» К. В. Воронцова. Параметрическое оценивание плотности. Многомерное нормальное распределение, геометрическая интерпретация.

Байесовская теория классификации. Лекция курса «Машинное обучение» К. В. Воронцова. Байесовская теория классификации. Оптимальный байесовский классификатор.

Краткий итоговый обзор семестра. Лекция курса «Машинное обучение» К. В. Воронцова. Обзор постановок оптимизационных задач машинного обучения. Переобучение и регуляризация. Обучение с учителем. Обучение без учителя.

Глубокие нейронные сети. Лекция курса «Машинное обучение» К. В. Воронцова. Обоснования глубоких нейронных сетей: выразительные возможности, скорость сходимости при избыточной параметризации.

Векторные представления текстов и графов. Лекция курса «Машинное обучение» К. В. Воронцова. Векторные представления графов.

Модели внимания и трансформеры. Лекция курса «Машинное обучение» К. В. Воронцова. Задачи обработки и преобразования последовательностей (sequence to sequence).

Тематическое моделирование. Лекция курса «Машинное обучение» К. В. Воронцова. Задача тематического моделирования коллекции текстовых документов. Метод максимума правдоподобия.

Обучение ранжированию. Лекция курса «Машинное обучение» К. В. Воронцова. Постановка задачи обучения ранжированию. Примеры.

Рекомендательные системы. Лекция курса «Машинное обучение» К. В. Воронцова. Задачи коллаборативной фильтрации, транзакционные данные.