Глубинное обучение. Представления внутри сверточных нейросетей. Школа анализа данных, Яндекс

preview_player
Показать описание
Лекция посвящена представлениям данных, выучиваемым сверточными нейросетями. Рассматриваются разные способы визуализации и анализа подобных представлений. Обсуждаются атаки на нейросети, а также генерация искусственных изображений-иллюзий для нейросетей. Обсуждается способность больших сверточных нейросетей к переобучению под произвольные выборки. Заключительная часть лекции посвящена трансферу знаний с применением сверточных нейросетей.
  1. Компьютерные науки
  2. шад
  3. школа анализа данных
  4. промежуточные преджставления
  5. adversarial atacks
  6. activation maximization
Комментарии
Автор

В части про transfer learning очень не хватило про learning rate. О том можно ли брать просто обычный Adam c learning rate'ом 0.001 и все обучится хорошо, или нужно брать какой-то маленький learning rate, иначе из-за больших градиентов в начале вся выученное ранее просто собьется.

brsch
Автор

1:09:49 так, кто-то спалился за приёмом психодееееелов

anoninko