Нейросетевая вероятностная модель естественного языка | Meta/conf

В своем докладе Антон Долгих, Эксперт DataArt по AI-проектам в области здравоохранения, рассмотрел лингвистический и математический подход в построении языковых моделей.
Узнали, что такое дискретная языковая модель, embeddings (погружение), в чем недостатки распределительного подхода в лингвистике, рассмотрели набор моделей word2vec и его компоненты CBOW (continuous back of words) и skip-Gram.

Отдельно Антон уделил внимание нейронным сетям в качестве самого распространенного подхода для решения задач обработки естественного языка.

__________________________