MachineLearning 2013

Материал из SEWiki
Перейти к: навигация, поиск

Лектор - Степанов Михаил, Практика - Тяпочкин Константин

Лекции

Слайды к лекции от 20.02, 27.02 Лекции 1,2. Материал, изложенный в лекции, так же доступен [1]

Слайды к лекции от 06.03 Лекция 3.

Слайды к лекции от 13.03 Лекция 4.

Слайды к лекции от 20.03 Лекция 5.

Самостоятельная работа 1

Практические задания

Лекции:

Лекция 1

Лекция 2

Домашние задания:

Домашние задания можно присылать на Konstantin.Tyapochkin@emc.com В теме письма добавьте строку "spbau homework".

1)Задание 1,house_cost.txt - последний срок сдачи 23:59 27.03.2013.

Уточнение: Для того, чтобы задание было полностью зачтено, необходимо в том числе решить одномерную задачу оптимизации для наискорейшего градиентного спуска аналитически и реализовать это аналитическое решение в коде соответствующей функции. Также, прошу обратить внимание на типы входных данных. Когда вместо необходимого data.frame в решении подразумевается матрица, гораздо сложнее проверять.

Программа курса

  • Методы визуализации и анализа
  • Линейные модели
    • Линейная регрессия
    • Логистическая регрессия
    • Обощенные линейные модели
    • Регуляризация
  • Классификация
    • Наивный байес
    • Деревья принятия решений, случайный лес
    • Нейронные сети и алгоритм обратного распространени¤ ошибок
    • Метод опорных векторов (SVM)
    • AdaBoost
  • Рекомендации по использованию алгоритмов машинного обучения
    • Выбор модели
    • Компромисc смещения-дисперсии (bias-variance trade-off)
    • Кривая обучения
  • Кластеризация
    • Метод к-средних(k-means)
    • EM-алгоритм
    • Иерархические методы
    • Рекомендации по использованию методов кластеризации
  • Методы понижения размерности данных
    • Метод главных компонент (PCA)
    • Многомерное шкалирование
  • Методы поиска аномалий в данных
  • Рекомендательные системы
  • Методы работы с большими объемами данных с использованием MapReduce

Список литературы

  • Christopher M. Bishop, Pattern Recognition and Machine Learning
  • Andrew Ng, Lecture notes, Machine Learning[2]
  • Воронцов К.В., Машинное обучение (курс лекций)[3]
  • Бородин, Элементарный курс теории вероятностей и математической статистики
  • Julian J. Faraway, Linear models with R

Ссылки