MachineLearning 2013

Лектор - Степанов Михаил, Практика - Тяпочкин Константин

Лекции

Слайды к лекции от 20.02, 27.02 Лекции 1,2. Материал, изложенный в лекции, так же доступен [1]

Слайды к лекции от 06.03 Лекция 3.

Слайды к лекции от 13.03 Лекция 4.

Слайды к лекции от 20.03 Лекция 5.

Самостоятельная работа 1

Практические задания

Лекции:

Лекция 1

Лекция 2

Домашние задания:

Домашние задания можно присылать на Konstantin.Tyapochkin@emc.com В теме письма добавьте строку "spbau homework".

1)Задание 1,house_cost.txt - последний срок сдачи 23:59 27.03.2013.

Уточнение: Для того, чтобы задание было полностью зачтено, необходимо в том числе решить одномерную задачу оптимизации для наискорейшего градиентного спуска аналитически и реализовать это аналитическое решение в коде соответствующей функции. Также, прошу обратить внимание на типы входных данных. Когда вместо необходимого data.frame в решении подразумевается матрица, гораздо сложнее проверять.

Программа курса

• Методы визуализации и анализа
• Линейные модели
  • Линейная регрессия
  • Логистическая регрессия
  • Обощенные линейные модели
  • Регуляризация
• Классификация
  • Наивный байес
  • Деревья принятия решений, случайный лес
  • Нейронные сети и алгоритм обратного распространени¤ ошибок
  • Метод опорных векторов (SVM)
  • AdaBoost
• Рекомендации по использованию алгоритмов машинного обучения
  • Выбор модели
  • Компромисc смещения-дисперсии (bias-variance trade-off)
  • Кривая обучения
• Кластеризация
  • Метод к-средних(k-means)
  • EM-алгоритм
  • Иерархические методы
  • Рекомендации по использованию методов кластеризации
• Методы понижения размерности данных
  • Метод главных компонент (PCA)
  • Многомерное шкалирование
• Методы поиска аномалий в данных
• Рекомендательные системы
• Методы работы с большими объемами данных с использованием MapReduce

Список литературы

• Christopher M. Bishop, Pattern Recognition and Machine Learning
• Andrew Ng, Lecture notes, Machine Learning[2]
• Воронцов К.В., Машинное обучение (курс лекций)[3]
• Бородин, Элементарный курс теории вероятностей и математической статистики
• Julian J. Faraway, Linear models with R