what is machine learning (in russian)
TRANSCRIPT
Что такое машинное обучение
БабаевДмитрий
ЛеонидовичData Science, Эксперт по наукам о данных
в МТС
В прошлом: Яндекс, Grid Dynamics, Digital Society Laboratory и Тиньков Банк
Что такое машинное обучение
www.itsmforum.ru
Машинное обучение везде
Что такое машинное обучение
• Голосовой помощник Google, Siri• Автономные автомобили• Ранжирование в Google, Яндекс• Рекомендации товаров в онлайн-магазинах
www.itsmforum.ru
Типы машинного обучения
Что такое машинное обучение
• С учителем• Без учителя• С подкреплением
www.itsmforum.ru
Отличие от программирования
Что такое машинное обучение
• Вместо того, чтобы самим писать программу мы показываем входные и выходные данные и алгоритм сам создает программу для преобразования входных данных в выходные
www.itsmforum.ru
Дерево решений
Что такое машинное обучение
www.itsmforum.ru
Построение дерева
Что такое машинное обучение
• Выбор условия разделения: при построении дерева необходимо достичь того чтобы в листьях было как можно больше примеров одного класса
• Выбрав произвольный признак и произвольный порог разделения можно проверить его качество
• После проверки всех признаков выбирается признак наилучшим образом разделяющий выборку
www.itsmforum.ru
Переобучение
Что такое машинное обучение
• Наша цель - создать модель которая будет хорошо работать на новых примерах, которых нет в обучающей выборке
• Дерево в котором каждый лист содержит единственный пример имеет максимальную точность на обучающей выборке но абсолютно бесполезно на любой другой выборке
www.itsmforum.ru
Борьба с переобучением в дереве решений
Что такое машинное обучение
• Ограничение глубины дерева• Ограничение минимального количества примеров в листе
www.itsmforum.ru
Boosting
Что такое машинное обучение
www.itsmforum.ru
Boosting
Что такое машинное обучение
1.Обучаем 1-е дерево2.Считаем ошибку прогноза для каждого примера
3.Обучаем следующее дерево прогнозировать ошибку предыдущих деревьев
4.Результат - сумма прогнозов всех деревьев
www.itsmforum.ru
Ранжирование в Яндексе
Что такое машинное обучение
Веб страница Ранг
http://netflix.com 10
http://ivi.ru 8
… …
http://filming.com 524
www.itsmforum.ru
Ранжирование в Яндексе
Что такое машинное обучение
• Ранжирование - определение того, насколько веб страница соответствует запросу пользователя
• Признаки для алгоритма обучения:– встречаемость слов запроса в различных частях веб страницы
– встречаемость слов запроса во всем корпусе веб страниц– PageRank– пол, возраст, регион, интересы пользователя– статистика переходов пользователей на данную страницу
www.itsmforum.ru
Революция Deep Learning
Что такое машинное обучение
• Нейросети вернулись из забвения• Удалось решить проблему обучения многослойных нейросетей
• Слои нейросети обучаются иерархически выделять промежуточные признаки
www.itsmforum.ru
Пример классической нейросетиЧто такое машинное обучение
www.itsmforum.ru
Иерархическое выделение признаков
Что такое машинное обучение
www.itsmforum.ru
Глубокая нейросеть имеет параллели с устройством визуального корекса
Что такое машинное обучение
www.itsmforum.ru
Достижения Deep Learning
Что такое машинное обучение
• DQN, Human-level control through deep reinforcement learning: http://deepmind.com/dqn• AlphaGo, Mastering the game of Go with deep
neural networks and tree search: http://deepmind.com/alpha-go
www.itsmforum.ru
Применимость Deep Learning
Что такое машинное обучение
• Является ли Deep Learning наилучшим алгоритмом на сегодняшний день?• нет, выбор алгоритма зависит от задачи
• Deep Learning обычно нуждается в существенно большем количестве примеров чем другие алгоритмы для обучения нейросети с нуля
• Сегментация клиентов• Банковский скоринг• Реклама• Борьба с оттоком
• Персонализация• Ранжирование в поисковых системах• Товарные рекомендации• Персонализированный пользовательский интерфейс
Практические применения ML
Что такое машинное обучение
• Распознавание образов• Распознавание речи• Обработка естественного языка
Практические применения ML (ИИ)
Что такое машинное обучение
• Просто в сборе данных мало смысла, необходимо еще извлечь из них новое знание
• Большие данные сложно анализировать экспертом вручную из за их объема
ML и большие данные
Что такое машинное обучение
www.itsmforum.ru
Ссылки
Что такое машинное обучение
• Data Scientist: The Sexiest Job of the 21st Century: https://hbr.org/2012/10/data-scientist-the-sexiest-job-of-the-21st-century/
• A Visual Introduction to Machine Learning: http://www.r2d3.us/visual-intro-to-machine-learning-part-1/
• Visual Information Theory: http://colah.github.io/posts/2015-09-Visual-Information/
• Demystifying Deep Reinforcement Learning; http://www.nervanasys.com/demystifying-deep-reinforcement-learning/
• Deep Learning Playground; http://playground.tensorflow.org
• Andrew Ng, Machine Learning; https://www.coursera.org/learn/machine-learning/
• Kaggle; https://www.kaggle.com/
Ресурсы для обучения
Ресурсы для обучения
[email protected]Дмитрий Леонидович Бабаев, Эксперт по наукам о данных в МТС
www.itsmforum.ru
КОНТАКТЫ