Рекуррентные нейросети | Нейросети для анализа текстов

В предыдущих видео мы рассматривали анализ текстов с помощью полносвязных нейронных сетей. Такие сети рассматривают текст как набор изолированных токенов. Однако в тексте важное значение имеет последовательность слов. Поэтому для корректного анализа текста нужны архитектуры нейронных сетей, которые могут работать с последовательностями. Одной из таких архитектур и являются рекуррентные нейронные сети.

Основное отличие рекуррентных нейронных сетей - это наличие циклов. Выход нейрона может быть соединен с его входом.

В видео рассматриваются:
- Основные проблемы анализа текста полносвязной сетью.
- Особенности архитектур рекуррентных сетей.
- Разворачивание рекуррентной сети во времени.
- Режимы работы рекуррентных сетей - sequence to sequence и sequence to vector.
- Использование рекуррентных нейронных сетей в TensorFlow и Keras с помощью слоя SimpleRNN.

Как можно поддержать курс:
Заранее спасибо за помощь!

Добавляйтесь в друзья в социальных сетях:

[shaha]

Спасибо большое Вам! Многого научился у Вас, вы мой стартовый наставник. Ваши труды многим помогают разобраться с нейросетю и развиваться в этой области! Вы замечательный человек!

[noname-rkt]

Спасибо вам большое. У вас талант преподносить материал просто и понятно.

[kskd]

Давно не увлекаюсь уже, другая работа, но смотрю. Спасибо Андрей, что не оставил просвещать.

[dimitriywhite]

протяжное "до свидаания" в конце топ вообще)

[elll]

Как же долго вас не было на ютубе - рад вас видеть, Андрей, здравствуйте. Мб своевременные донаты простимулируют вас на подготовку новых материалов и почаще? ;)

[НатальяСоколова-яг]

Андрей, спасибо большое за понятное объяснение. Хотелось узнать, какой подход в рамках реккурентных сетей стоит применять к классификации очень похожих текстов? Есть ли к-н практики и осветите ли Вы данных момент в к-н своем ролике в будущем?

[ArtemEngineerRVA]

Андрей, а рассмотрение структур SAT-солверов в тематику вашего канала не вписывается?

[zzzCyberzzz]

Подскажите, какая сеть наиболее подходит для предсказания временных рядов? Видел дипломную работу, ряд преобразуется в 2д и загоняется в 2д сверточную сеть. Но там только теория без конкретных структур и размеров. И ещё как-то делают смешанные сети, но как это делать в керасе?

[avdeevgr]

Андрей здравствуйте!
Можно ли вас попросить записать такой вебинар или стрим провести на тему создание нейронной сети с самого начала и до запуска. Что бы был живой пример и коментраии от професионала, тоесть от вас. Спасибо. Если было уже такое то дайте ссылку)

[AndersonSilva-dgmg]

Андрей, подскажите пожалуйста, а по обычным сетям больше ничего не будет?

[Русь-Родина]

Слишком поверхностное изложение материала. По сути ни о чем.

[РАБОТЯГАСЗАВОДУ]

Вы говорите, что нужно создать столько копий рекурентной нейронной сети развернутой во времени, сколько элементов входных данных в последовательности, но далее передаете параметр 8, хотя данных больше. Правильно ли я понимаю, что сеть автоматически создает эти копии для каждого элемента, а передаваемый параметр 8 является количеством итераций? То есть сигнал 8 раз пройдет по множеству копий рекурентного слоя прежде чем наконец-то попадет на полносвязный слой?

[hubstrangers]

Hi could you provide a transcript of yours (email), which could be translated to English please, demos certainly provides a picture how you arrived at your code block, transcript will certainly help what your stating in you're demos. Thank you