Структурные модели и глубинное обучение (регулярный семинар)
Материал из MachineLearning.
(→Прошедшие заседания) |
(→Ссылки) |
||
Строка 51: | Строка 51: | ||
# [http://neuralnetworksanddeeplearning.com Онлайн книжка, которая по большому счету является одним длинным туториалом.] В начале идет достаточно подробное введение в концепцию классических нейронных сетей, а в последней главе обсуждаются некоторые элементы глубокого обучения и дан хороший набор ссылок на другие материалы по глубокому обучению. | # [http://neuralnetworksanddeeplearning.com Онлайн книжка, которая по большому счету является одним длинным туториалом.] В начале идет достаточно подробное введение в концепцию классических нейронных сетей, а в последней главе обсуждаются некоторые элементы глубокого обучения и дан хороший набор ссылок на другие материалы по глубокому обучению. | ||
# Если у вас нет графической карточки, то можно пользоваться амазоновскими кластерами с графическими карточками. При использовании spot instances (google it!) стоимость instance с 1 графической карточкой составляет примерно 10-12 центов в час. [http://markus.com/install-theano-on-aws/ Вот небольшой мануал] на тему установки необходимого софта на AWS (его же можно использовать и для установки на свои машины) | # Если у вас нет графической карточки, то можно пользоваться амазоновскими кластерами с графическими карточками. При использовании spot instances (google it!) стоимость instance с 1 графической карточкой составляет примерно 10-12 центов в час. [http://markus.com/install-theano-on-aws/ Вот небольшой мануал] на тему установки необходимого софта на AWS (его же можно использовать и для установки на свои машины) | ||
+ | # [http://star.mit.edu/cluster/docs/latest/index.html Starcluster - система для автоматизации работы со spot instances.] | ||
+ | # [http://benanne.github.io/2015/03/17/plankton.html Продвинутый материал, который описывает выигравшее решение крупного конкурса на kaggle по классификации планктона (больше 1000 участников и призовой фонд в 175k $)] | ||
[[Категория:Учебные курсы]] | [[Категория:Учебные курсы]] |
Версия 11:26, 30 октября 2015
Содержание |
Описание семинара:
Deep Learning – это разновидность машинного обучения, в основе которой лежат нейронные сети. Сегодня на использовании «глубинного обучения» строятся системы распознавания речи, распознавание визуальных объектов (как статических, так и движущихся) и, наконец, взаимодействие компьютерных систем с естественным языком и вычленение смыслов. Многие ученые считают Deep Learning революцией в машинном обучении, см. например, интервью с директором Facebook по искусственному интеллекту Яном Лекуном (Yann LeCun) (перевод)
Цели исследований соответствующей научной группы:
- Разработка новых алгоритмов глубинного обучения (Deep Learning),
- Решение прикладных задач с использованием методов Deep Learning (автоматическое описание изображений/видео, описание 3D формы, анализ нейро-данных, анализ медицинских изображений, и т.п.),
- Теоретические анализ моделей Deep Learning, в т.ч. и с использованием теории структурных моделей
Время заседаний:
Регулярный семинар, проводится в ИППИ РАН по понедельникам в 18-30, ауд. 615.
Научные руководители семинара
Организатор семинара
Совместный учебно-научный семинар магистерской программы Математические методы оптимизации и стохастики Факультета Компьютерных наук НИУ ВШЭ, Института проблем передачи информации РАН и Лаборатории ПреМоЛаб МФТИ. Куратор семинара Евгений Бурнаев (профили в НИУ ВШЭ и на MathNet.ru)
Прошедшие заседания
Заседание 1 (19 октября)
- Введение в нейронные сети: обзор основных математических моделей нейронных сетей, приложения
- Программные библиотеки для моделирования нейронных сетей, туториалы к ним
Заседание 2 (26 октября)
- Автоматические методы выбора структуры нейронных сетей
- Практические особенности построения нейросетевых моделей в конкретных приложениях
Ссылки
Некоторые ссылки:
- Библиография работ по Deep Learning
- Книга «Deep Learning» авторов Yoshua Bengio, Ian Goodfellow and Aaron Courville
- Deep Learning Tutorial by Ruslan Salakhutdinov at the KDD-2014
- Course: Convolutional Neural Networks for Visual Recognition
- Composing music with recurrent neural networks
- A Neural Algorithm of Artistic Style
- Using Deep Reinforcement Learning to Play Chess
- Просто полезный сайт deeplearning.net
Программные библиотеки:
- Theano - питоновский тулбокс для символьных вычислений
- упражнения по Theano
- https://github.com/Lasagne/Lasagne Lasagne
- Tutorial for Lasagne
- Nolearn (обертка для упрощения работы с Lasagne)
- Хороший туториал, в котором отражены многие аспекты практического использования глубокого обучения
- Онлайн книжка, которая по большому счету является одним длинным туториалом. В начале идет достаточно подробное введение в концепцию классических нейронных сетей, а в последней главе обсуждаются некоторые элементы глубокого обучения и дан хороший набор ссылок на другие материалы по глубокому обучению.
- Если у вас нет графической карточки, то можно пользоваться амазоновскими кластерами с графическими карточками. При использовании spot instances (google it!) стоимость instance с 1 графической карточкой составляет примерно 10-12 центов в час. Вот небольшой мануал на тему установки необходимого софта на AWS (его же можно использовать и для установки на свои машины)
- Starcluster - система для автоматизации работы со spot instances.
- Продвинутый материал, который описывает выигравшее решение крупного конкурса на kaggle по классификации планктона (больше 1000 участников и призовой фонд в 175k $)