Машинное обучение 2 осень 2017

Семинар

Преподаватель: Кураленок И. Е.

План лекций:

1. Введение в область
2. Анализ задачи
   1. Сэмплирование и размерность задачи
   2. Уменьшение размерности: feature selection
   3. Уменьшение размерности: feature extraction
   4. Embedded модели на линейном примере (LASSO, LARS, etc.)
3. Практическая оценка методов машинного обучения
4. Теоретическая оценка
5. Основные принципы построения целевых функций
6. Необычные факторы в обучении
   1. Обучение на последовательностях
   2. Рекомендательные системы
7. Построение целевых функций
8. Введение в online обучение
9. Несколько подходов к построению решающей функции
   1. Сэмплирование пространства решений и NFLT
   2. Введение в байесовское моделирование
   3. Сегментация пространства задачи (деревья, кластеризация,  :))
   4. Ансамбли (BOC->Boosting)
10. История решения одной практической задачи (MLR)

Презентации:

• Лекция №1. Введение в область.

• Лекция №2. Сэмплирование.

• Лекция №3. Уменьшение размерности.
  • Задание: определить истинную размерность пространства документов, если рассматривать их в модели "bag of words".
    Можно не ограничиваться только теми методами, что были рассказаны.
  • Кусок википедии: документы, для которых нужно определить истинную размерность пространства.

• Лекция №4. Feature selection (последние слайдов 20).

• Лекция №5. Уменьшение размерности.
  • Задание: Из выданного датасета необходимо выделить 10 фичей на которых score будет ближе всего к оригинальному.
    Score определяется через RMSE от целевого значения.
    Формат файлов такой: во второй колонке целевой сигнал, начиная с пятой - фичи.
  • Данные для обучения.
  • Данные для теста.

• Лекция №6. Автоматический feature selection.