StatisticalLearning 2014 — различия между версиями

Материал из SEWiki
Перейти к: навигация, поиск
м (Материалы с практик)
(Прочитанные лекции)
Строка 3: Строка 3:
 
== Прочитанные лекции ==
 
== Прочитанные лекции ==
 
# Введение. Что такое statistical learning. Примеры. ''(05.09)'' [[Файл:SL-01-SLIntro.pdf]]
 
# Введение. Что такое statistical learning. Примеры. ''(05.09)'' [[Файл:SL-01-SLIntro.pdf]]
# И снова линейная регрессия. Оценивание. Проверка гипотез относительно коэффициентов. Доверительные интервалы для коэффициентов.  ''(19.09)'' [[Файл:SL-02-Regression.pdf]]  Домашнее задание [[Файл:task_19sep.pdf]]
+
# И снова линейная регрессия. Оценивание. Проверка гипотез относительно коэффициентов. Доверительные интервалы для коэффициентов.  ''(19.09)'' [[Файл:SL-02-Regression.pdf]]  Домашнее задание [[Файл:task_19sep.pdf]] (j(обновил файл, добавил новое задание-вопрос с лекции)
  
 
== Возможные темы будущих лекций ==
 
== Возможные темы будущих лекций ==

Версия 14:36, 27 сентября 2014

Программа

Прочитанные лекции

  1. Введение. Что такое statistical learning. Примеры. (05.09) Файл:SL-01-SLIntro.pdf
  2. И снова линейная регрессия. Оценивание. Проверка гипотез относительно коэффициентов. Доверительные интервалы для коэффициентов. (19.09) Файл:SL-02-Regression.pdf Домашнее задание Файл:Task 19sep.pdf (j(обновил файл, добавил новое задание-вопрос с лекции)

Возможные темы будущих лекций

  1. Категориальные переменные в регрессии. Выбор информативных признаков (немного). Выбросы, гетероскедастичность, high leverage points.
  2. Классификация. Линейные методы. Логистическая регрессия. Дискриминантный анализ. Понятие ROC-кривой, AUC. Naive Bayes.
  3. Resampling: Кросс-валидация. Бутстреп.
  4. Снова о подборе линейной модели. Регуляризация (ridge regression, LASSO, elastic net). Робастная регрессия.
  5. Нелинейности. Полиномиальная регрессия. Сплайны. Локальная регрессия. GAM.
  6. Деревья. Bagging. Boosting.
  7. Support vector machines
  8. Unsupervised learning: PCA, кластеризация (k-means, иерархическая), model based clustering.

Материалы с практик

Сырая версия history от 5 и 19 сентября (скоро выложу в виде отформатированного конспекта) Файл:Hist5sep.R.gz Файл:Hist19sep.R.gz

Результаты и итоги

Литература

Основная

  1. Hadley Wickham: "Advanced R" [1] - Достаточно краткое, но исчерпывающее руководство от очень известного R-гуру, автора множества пакетов
  2. Patrick Burns: "The R Inferno" [2] - "Ад R", потенциальные ошибки при программировании на R и способы их избежать. Рекомендуется к чтению после некоторого опыта в R
  3. Gareth James, Daniela Witten, Trevor Hastie and Robert Tibshirani: "An Introduction to Statistical Learning (with Applications in R)" [3] - ISL, введение в SL с примерами, основное пособие курса
  4. Trevor Hastie, Robert Tibshirani, Jerome Friedman: "The Elements of Statistical Learning"[4] - ESL, для тех, кому предыдущая книга покажется недостаточно подробной и глубокой. Больше теории и шире охват, но гораздо сложнее и нет примеров кода

Дополнительная

  1. [5] - Сайт lattice
  2. Sarkar, Deepayan: "Lattice. Multivariate Data Visualization with R" [6] - Исчерпывающий обзор графической системы "lattice" с примерами использования
  3. [7] - Сайт ggplot2
  4. Winston Chang: "R Graphics Cookbook" [8] - Введение в ggplot и рецепты
  5. Hadley Wickham: "ggplot2: Elegant Graphics for Data Analysis" [9] - Книга от создателя ggplot, для тех, кто хочет разобраться с внутренним устройством пакета и проектировать собственные графики
  6. Q. Ethan McCallum, Stephen Weston: "Parallel R. Data Analysis in the Distributed World " [10] - Книга содержит исчерпывающую информацию о параллельном программировании на R (включая кластеры и облака)