Modern Deep Learning 2023 Лекция 2 Строительные блоки

Курс направлен на то, чтобы провести слушателя кратчайшим путем к самой многообещающей технологии современного искусственного интеллекта – архитектуре Transformer, основанной на механизмах внимания.

Эта лекция посвящена строительным блокам нейронных архитектур, вопросам об устаревании нейрона как атомарного элемента, переходу к вычислительным блокам, требованиям к их организации.
Таймкоды:
0:00 Введение
3:23 Deep Learning Pipeline
8:51 Нейронная архитектура: строительные блоки
9:33 Нейрон или слой?
14:23 Что не так с нейроном
29:00 Предложение отказаться от нейронов и перейти к слоям
45:30 Полносвязный слой – самый важный строительный блок нейронных сетей
47:23 Нейрон, активации, веса и, самое главное, нотация!
1:14:24 Популярные функции активации
1:20:00 Анонс следующей лекции