Лекция. Elmo, GPT, BERT

preview_player
Показать описание
Занятие ведёт Антон Астахов.

---
Deep Learning School при ФПМИ МФТИ
Каждые полгода мы запускаем новую итерацию нашего двухсеместрового практического онлайн-курса по глубокому обучению. Наборы проводятся в августе-сентябре и январе-феврале.

За нашими новостями можно следить здесь:

ФПМИ МФТИ

--
План лекции:

0:00 Вступление
3:36 ELMO
18:05 GPT
32:10 BERT

--
Рекомендации по теме
Комментарии
Автор

Сумбурненько.
Как в итоге использовать BERT только на энкодерах, чтобы осуществлять перевод? Возвращать декодеры?
Как получить те самые начало и конец параграфа? Просто линейным слоем сверху энкодеров?

Dronzord
Автор

А BERT может сгенерировать ругательства на тех, кто ставит дизлайки?

sacramentofwilderness