LibreTimes

Константин Вячеславович Воронцов

@konstantin_vorontsov

Машинное обучение, тематическое моделирование; ВМК МГУ, МФТИ, ФИЦ ИУ РАН

1 подписчик104 работы
О себе

Константин Вячеславович Воронцов — профессор РАН, доктор физико-математических наук. Заведующий кафедрой «Математические методы прогнозирования» ВМК МГУ, где с 2021 года — профессор; заведующий лабораторией «Машинное обучение и семантический анализ» Института искусственного интеллекта МГУ (с 2022 года); заведующий кафедрой «Машинное обучение и цифровая гуманитаристика» МФТИ (с 2021 года); заведующий кафедрой «Интеллектуальные системы» МФТИ (с 2022 года), на которой работает с 2004 года; главный научный сотрудник отдела «Интеллектуальные системы» ВЦ ФИЦ ИУ РАН, где работает с 2001 года.

Окончил МФТИ (1994) и аспирантуру ВЦ РАН (1997). Кандидатская диссертация «Локальные базисы в алгебраическом подходе к проблеме распознавания» (1999, специальность 01.01.09); докторская диссертация «Комбинаторная теория надёжности обучения по прецедентам» (2010, специальность 05.13.17).

Автор комбинаторной теории надёжности обучения по прецедентам, оценивающей вероятность переобучения с учётом эффектов расслоения и сходства в семействах алгоритмов; основное направление его исследований — теория и методы аддитивной регуляризации тематических моделей (ARTM). С 2014 года — научный руководитель разработки библиотеки тематического моделирования с открытым кодом BigARTM, с 2019 года — поисково-рекомендательной системы SciSearch. Один из идеологов и администраторов ресурса MachineLearning.ru (с 2008 года).

Медаль РАН с премией для молодых учёных (1999, совместно с Е. В. Нарыжным); почётное звание профессора РАН (2015); юбилейная медаль РАН «300 лет Российской академии наук» (2024); премия Yandex ML Prize в номинации «Зал славы» (2025).

Автор курсов «Вероятностные тематические модели», «Математические методы анализа текстов», «Прикладной статистический анализ данных» и спецкурса по теории надёжности обучения по прецедентам; в 2008–2020 годах преподавал в Школе анализа данных Яндекса. С 2004 года читает годовой курс «Машинное обучение» в МФТИ и ВМК МГУ.

Личная информация

Текущие должности

Заведующий кафедрой «Математические методы прогнозирования», ВМК МГУ

Заведующий лабораторией «Машинное обучение и семантический анализ», Институт искусственного интеллекта МГУ

Заведующий кафедрой «Машинное обучение и цифровая гуманитаристика», МФТИ

Главный научный сотрудник отдела «Интеллектуальные системы», ВЦ ФИЦ ИУ РАН

Популярные работы

Машинное обучение–2. Лекция 10. Обучение с подкреплением

30 авг. 2026 г.ЛекцияКонстантин Вячеславович Воронцов

Обучение с подкреплением как обучение по реакции среды: задача о многоруком бандите, оценка ценности действия, жадная и ε-жадная стратегии, компромисс «изучение–применение», метод UCB, экспоненциальное скользящее среднее, метод преследования и сравнение с подкреплением; среда с состояниями, марковский процесс принятия решений, отличия от обычных задач машинного обучения, дисконтированная выгода, функции ценности состояния и действия, уравнение Беллмана, методы SARSA и Q-обучения, on-policy и off-policy; глубокое Q-обучение DQN на примере игр Atari, experience replay; градиентная оптимизация стратегии (policy gradient) и её связь с максимизацией log-правдоподобия; model-based и model-free подходы, регрессионная модель премии с верхней доверительной оценкой LinUCB, рекомендация новостных статей, оценивание стратегии по историческим данным.
1
550

Машинное обучение–1. Лекция 14. Детекция аномалий и робастные методы

30 авг. 2026 г.ЛекцияКонстантин Вячеславович Воронцов

Задачи выявления аномалий и новизны; эвристические методы оценивания аномальности: локальная плотность, изолирующий лес, смесь с фоновой компонентой, робастный метод главных компонент; отсев выбросов в непараметрической регрессии, алгоритм LOWESS; аномальность как значение функции потерь; теория робастного обучения: функции медленного роста, итерационное перевзвешивание объектов IRS и IRLS, робастные функции потерь, медиана, квантиль и цензурированное среднее, робастные агрегирующие функции и их сглаживание, алгоритм IR-ERM; одноклассовый SVM, обучение по положительным и неразмеченным объектам (PU-learning), задачи с новыми и неизвестными классами.
0
480

Машинное обучение–2. Лекция 4. Модели внимания и трансформеры

30 авг. 2026 г.ЛекцияКонстантин Вячеславович Воронцов

Задачи преобразования последовательностей (sequence to sequence): рекуррентная сеть, архитектура кодировщик–декодировщик и её ограничения; рекуррентная сеть с моделью внимания, интерпретация матрицы внимания в машинном переводе и описании изображений; функции сходства, модель внимания запрос–ключ–значение, формула внимания, самовнимание (self-attention); многомерное (multi-head) внимание и его регуляризация, иерархическое внимание для классификации документов, модель внимания на графах GAT; трансформер для машинного перевода: кодировщик, позиционное кодирование, нормировка уровня и сквозные связи, декодировщик с маскированием, критерий обучения, BLEU и WER; трансформер-кодировщик BERT, критерии MLM и NSP, дообучение, токенизация BPE и WordPiece, размеры моделей.
1
450
Недавние работы

Машинное обучение. Дополнительная лекция 2. Обзор оптимизационных задач машинного обучения

30 авг. 2026 г.ЛекцияКонстантин Вячеславович Воронцов

Обзорная лекция: машинное обучение как постановки оптимизационных задач — модель, функция потерь, регуляризатор. Регрессия и классификация, непрерывные аппроксимации пороговой функции потерь, SVM и логистическая регрессия, квантильная, робастная и SVM-регрессия; регуляризаторы L0, L1, L2, Elastic Net, SFM, RFM и отбор признаков; обучение ранжированию: ранговая регрессия, попарный подход и AUC, LambdaRank; восстановление плотности и смеси распределений, кластеризация как частный случай смеси, одноклассовый SVM; частичное обучение, трансдуктивный SVM, PU-learning; матричные разложения, автокодировщики, многомерное шкалирование, графовые разложения, GraphEDM; перенос обучения, многозадачное и самостоятельное обучение, дистилляция, обучение с привилегированной информацией, генеративные состязательные сети; типология задач машинного обучения.
1
210

Машинное обучение. Дополнительная лекция 1. Теория переобучения

30 авг. 2026 г.ЛекцияКонстантин Вячеславович Воронцов

Комбинаторная теория переобучения: вероятность переобучения и завышенность оценок Вапника–Червоненкиса; эксперименты с переобучением — монотонная цепь алгоритмов, влияние расслоения и связности семейства на вероятность переобучения и на оценку полного скользящего контроля, переобучение цепей, точная формула вероятности переобучения при выборе из двух алгоритмов; граф расслоения–связности семейства алгоритмов, примеры для линейных классификаторов, монотонной цепи и двумерной сети; порождающее и запрещающее множества, верхняя связность и неоптимальность алгоритма; верхняя оценка расслоения–связности, идея доказательства и свойства.
1
220

Машинное обучение–2. Лекция 12. Интерпретируемость и объяснимость

30 авг. 2026 г.ЛекцияКонстантин Вячеславович Воронцов

Интерпретируемость и объяснимость моделей машинного обучения: цели, задачи и основные понятия, кому и зачем нужны объяснения; интерпретируемые модели; оценки значимости признаков в линейной регрессии: t-статистика, чистые эффекты, вклады и ситуативная важность; графики частичной зависимости (PDP) и индивидуальных условных зависимостей (ICE); перестановочные оценки значимости; вектор Шепли из теории кооперативных игр, его аксиомы и оценивание методом Монте-Карло, применение в линейной регрессии; суррогатное моделирование в окрестности объекта, методы LIME, Anchors, SHAP, Shapley Kernel и SAGE; вектор Шепли для обучающих объектов, Data Shapley и Gradient Shapley; контрфактические объяснения.
0
230