Машинное обучение 2 осень 2017 - История изменений

P.u.smirnov в 01:58, 28 января 2018

2018-01-28T01:58:56Z

U.a.rebrik: /* Презентации: */

2017-11-25T12:29:28Z

‎Презентации:

Kruch.dmitriy: /* Презентации: */

2017-11-22T22:38:44Z

‎Презентации:

A.v.gaydashenko в 16:14, 8 ноября 2017

2017-11-08T16:14:51Z

A.v.gaydashenko в 15:26, 15 октября 2017

2017-10-15T15:26:25Z

U.a.rebrik: /* Презентации: */

2017-10-09T13:53:34Z

‎Презентации:

U.a.rebrik: /* Презентации: */

2017-10-03T15:23:08Z

‎Презентации:

U.a.rebrik: /* Презентации: */

2017-09-23T12:58:49Z

‎Презентации:

A.v.gaydashenko в 09:58, 23 сентября 2017

2017-09-23T09:58:44Z

U.a.rebrik: /* Добавлена новая презентация */

2017-09-23T08:59:10Z

‎Добавлена новая презентация

← Предыдущая		Версия 01:58, 28 января 2018
Строка 46:		Строка 46:
	* [[Медиа:Ml-23.pdf\|Лекция №8. Генеративный подход к обучению на последовательностях.]]		* [[Медиа:Ml-23.pdf\|Лекция №8. Генеративный подход к обучению на последовательностях.]]
	* [[Медиа:Ml-5-2.pdf\|Лекция №9. И снова сэмплирование.]]		* [[Медиа:Ml-5-2.pdf\|Лекция №9. И снова сэмплирование.]]
		+
		+
		+	== Вопросы к экзамену ==
		+
		+	# Задача машинного обучения, его виды и их формальные постановки
		+	# Виды и типы сэмплирования и особенности их применения
		+	# Истинная размерность задачи, ограничения (JL-лемма) и способы определения
		+	# Анализ feature selection как статистической задачи
		+	# Особенности применения feature selection для оценки обучения GBDT
		+	# PCA и Kernel PCA
		+	# Общая схема ICA, эквивалентность независимости и нормальности
		+	# Projection pursuit, FastICA.
		+	# Вероятностная интерпретация MSE. Embedded методы в MDL постановке.
		+	# LASSO + LARS.
		+	# Кроссвалидация, статистический подход к оценке jackknife оценки, bootstrapping
		+	# Variance/Bias. Как определять, что делать. Объяснить переход от линейной модели к LASSO.
		+	# VC оценка обучения: размерность, механизм, критика
		+	# PAC обучаемость
		+	# KL-divergence + ELB. Вывод, связь с другими величинами, примеры использования KL.
		+	# Постановка задачи обучения на последовательностях. HMM.
		+	# CRF. LSTM.
		+	# Collaborative filtering: самые простые модели и факторизация.
		+	# Категориальные факторы и их байесовское моделирование.
		+	# Сэмплирование в \mathbb{R}^n по заданному распределению. MCMC
		+	# Использование сэмплирования в ML. No free lunch theorem.
		+	# Варианты покоординатного спуска: EM, Gibbs sampling
		+	# Bayesian optimal classifier и его реализация в bagging
		+	# Boosting на примере AdaBoost, отличия от bagging, теоретическая оценка сходимости AdaBoost.
		+	# Gradient Boosting. Тонкие места в построении деревьев решений
		+	# MLR: метрики, точечные попарные и списочные методы.
		+	# Постановка задачи online обучения, бандиты. UCB, Thompson Sampling, Gittins index.

← Предыдущая		Версия 12:29, 25 ноября 2017
Строка 45:		Строка 45:
	* [[Медиа:Ml-3.pdf\|Лекция №7. Оценка методов обучения с учителем.]]		* [[Медиа:Ml-3.pdf\|Лекция №7. Оценка методов обучения с учителем.]]
	* [[Медиа:Ml-23.pdf\|Лекция №8. Генеративный подход к обучению на последовательностях.]]		* [[Медиа:Ml-23.pdf\|Лекция №8. Генеративный подход к обучению на последовательностях.]]
		+	* [[Медиа:Ml-5-2.pdf\|Лекция №9. И снова сэмплирование.]]

← Предыдущая		Версия 22:38, 22 ноября 2017
Строка 44:		Строка 44:
	* [[Медиа:Ml-8.pdf\|Лекция №6. Автоматический feature selection.]]		* [[Медиа:Ml-8.pdf\|Лекция №6. Автоматический feature selection.]]
	* [[Медиа:Ml-3.pdf\|Лекция №7. Оценка методов обучения с учителем.]]		* [[Медиа:Ml-3.pdf\|Лекция №7. Оценка методов обучения с учителем.]]
		+	* [[Медиа:Ml-23.pdf\|Лекция №8. Генеративный подход к обучению на последовательностях.]]

← Предыдущая		Версия 16:14, 8 ноября 2017
Строка 43:		Строка 43:

	* [[Медиа:Ml-8.pdf\|Лекция №6. Автоматический feature selection.]]		* [[Медиа:Ml-8.pdf\|Лекция №6. Автоматический feature selection.]]
		+	* [[Медиа:Ml-3.pdf\|Лекция №7. Оценка методов обучения с учителем.]]

← Предыдущая		Версия 15:26, 15 октября 2017
Строка 41:		Строка 41:
	**[[Медиа:Features.txt.gz\| Данные для обучения.]]		**[[Медиа:Features.txt.gz\| Данные для обучения.]]
	**[[Медиа:FeaturesTest.txt.gz\| Данные для теста.]]		**[[Медиа:FeaturesTest.txt.gz\| Данные для теста.]]
		+
		+	* [[Медиа:Ml-8.pdf\|Лекция №6. Автоматический feature selection.]]

← Предыдущая		Версия 13:53, 9 октября 2017
Строка 36:		Строка 36:

	* [[Медиа:Ml-15-2.pdf\|Лекция №4. Feature selection (последние слайдов 20).]]		* [[Медиа:Ml-15-2.pdf\|Лекция №4. Feature selection (последние слайдов 20).]]
		+
		+	* [[Медиа:Ml-16.pdf\|Лекция №5. Уменьшение размерности.]]
		+	** '''Задание:''' Из выданного датасета необходимо выделить 10 фичей на которых score будет ближе всего к оригинальному. <br> Score определяется через RMSE от целевого значения. <br> Формат файлов такой: во второй колонке целевой сигнал, начиная с пятой - фичи.
		+	**[[Медиа:Features.txt.gz\| Данные для обучения.]]
		+	**[[Медиа:FeaturesTest.txt.gz\| Данные для теста.]]

← Предыдущая		Версия 15:23, 3 октября 2017
Строка 34:		Строка 34:
	** '''Задание:''' определить истинную размерность пространства документов, если рассматривать их в модели "bag of words". <br> Можно не ограничиваться только теми методами, что были рассказаны.		** '''Задание:''' определить истинную размерность пространства документов, если рассматривать их в модели "bag of words". <br> Можно не ограничиваться только теми методами, что были рассказаны.
	**[[Медиа:Wikipedia_2000_dump.xml.gz\|Кусок википедии]]: документы, для которых нужно определить истинную размерность пространства.		**[[Медиа:Wikipedia_2000_dump.xml.gz\|Кусок википедии]]: документы, для которых нужно определить истинную размерность пространства.
		+
		+	* [[Медиа:Ml-15-2.pdf\|Лекция №4. Feature selection (последние слайдов 20).]]

@@ Строка 33: / Строка 33: @@
 * [[Медиа:Ml-15.pdf|Лекция №3. Уменьшение размерности.]]
 ** '''Задание:'''  определить истинную размерность пространства документов, если рассматривать их в модели "bag of words".  <br> Можно не ограничиваться только теми методами, что были рассказаны.
-**[[Медиа:Wikipedia_2000_dump.xml.gz|Кусок википедии]]: документы для дз.
+**[[Медиа:Wikipedia_2000_dump.xml.gz|Кусок википедии]]: документы, для которых нужно определить истинную размерность пространства.

← Предыдущая		Версия 08:59, 23 сентября 2017
Строка 26:		Строка 26:

	== Презентации: ==		== Презентации: ==
−	~~[[Медиа:Ml-1.pdf\|Лекция №1. Введение в область.]]~~

−	[[Медиа:Ml-5.pdf\|Лекция №2. Сэмплирование.]]	+	* [[Медиа:Ml-1.pdf\|Лекция №1. Введение в область.]]
		+
		+	* [[Медиа:Ml-5.pdf\|Лекция №2. Сэмплирование.]]
		+
		+	* [[Медиа:Ml-15.pdf\|Лекция №3. Сэмплирование.]]
		+	** '''Задание:''' определить истинную размерность пространства документов, если рассматривать их в модели "bag of words". <br> Можно не ограничиваться только теми методами, что были рассказаны.
		+	**[[Медиа:Wikipedia_2000_dump.xml.gz\|Кусок википедии]]: документы для дз.