Deep Learning (Глубокое обучение) Нейронные сети

Я пытаюсь разобраться. Добавляйте, кому есть что добавить. Исправляйте, где я заблуждаюсь.


Лучшее из коротких объяснение как работают нейронные сети


Deep Learning


Классификация нейронных сетей:

  • Dense Networks
  • Convolutional Networks (ConvNets) - (MNIST - распознавание цифр)
  • Recurrent Neural Networks (RNNs) - (распознавание речи)
  • Generative Adversarial Networks (GANs)


Deep Learning


Библиотеки грубокого обучения


TensorFlow (Google)


Keras

Работает над TensorFlow или дургой библиотекой Theano.


PyTorch (Facebook)

Вроде как, “более гибкая” библиотека, чем keras. Так сказал автор курса от Отус по ML.


Lasagna (построена на основе библиотеки theano)

Хз, что за библиотека такая


Функции активации:

  • Блок линейной ректификации - Rectified Linear Unit (ReLU)
  • ELU
  • Сигмоида (softmax)
  • Гиперболический тангенс
  • Линейная функция
  • Логистическая фукнкция


Некоторые представлены на картинке:


Deep Learning


Deep Learning


Deep Learning



По функциям активации в tensorflow1 почитать [Орельен Жерон] Прикладное машинное обучение с помощью Scikit-Learn и TensorFlow [RUS, 2018]

Полный перечень функций активации keras приведен на странице: keras.io/activations/


Обучающие материалы:

Книги по Deep Learning

Видеокурсы по Deep Learning


Practical Deep Learning for Coders

https://github.com/fastai/courses