Интерпретируемость и объяснимость

Содержание лекции

• Интерпретируемость и объяснимость — цели, задачи, основные понятия.
• Интерпретируемые модели машинного обучения.
• Оценки значимости признаков в линейной регрессии.
• Графики частичной зависимости (Partial Dependence Plot, PDP).
• Графики индивидуальных условных зависимостей (ICE).
• Перестановочные оценки значимости признаков.
• Вектор Шепли (из теории кооперативных игр), его свойства, способы оценивания, применение в линейной регрессии.
• Суррогатное моделирование в окрестности объекта.
• Метод LIME (Local Interpretable Model-agnostic Explanations).
• Метод якорей (Anchors).
• Метод SHAP (SHapley Additive exPlanations).
• Метод Shapley Kernel.
• Метод SAGE (Shapley Additive Global importancE).
• Вектор Шепли для объектов, метод Gradient Shapley.
• Контрфактическое объяснение, метод поиска контрфактов (Counterfactual explanations).

Материалы

• Презентация Voron-ML-xai.pdf (PDF, 3.8 МБ) — прикреплена к публикации.

Материалы курса © К. В. Воронцов. Текст и слайды распространяются по лицензии CC BY-SA 3.0 — на условиях этой лицензии они воспроизведены здесь без изменений. Видеозаписи размещены на YouTube и встроены по ссылке; их копии здесь не хранятся.