Как нейросети пишут тексты

Представим ситуацию: вы попросили нейросеть YandexGPT по-простому объяснить вам, например, законы Ньютона, так, чтобы было понятно даже ребёнку. О чём в этот момент «думает» сама YandexGPT? Она действительно хорошо разбирается в физике и знает, как разговаривать с детьми? Ответ не такой очевидный, как можно было бы подумать.

Это рубрика «Вопрос со звёздочкой», в которой разработчики Яндекса простым языком рассказывают, как работают самые сложные технологии.

Даниил Колесников в Яндексе отвечает за маркетинг нейросетей. В новом выпуске он рассказывает, что происходит внутри YandexGPT и других языковых моделей каждый раз, когда вы задаёте им вопрос.

🔗 Попробуйте YandexGPT в приложении Яндекс с Алисой

[GG_]

Фактически они обрабатывают запрос, после начинают подбирать слова. И останавливаются примерно когда понимают что продолжение текста написать не выйдет, мощности и количества нейронов для обработки не хватит, они останавливаются. Однако так работают в частности только нейронные сети с архитектурой трансформера. GPT.

[Pifamar]

2:32 На самом деле, это не так, нейросеть имеет своё мнение о мире и его образе основываясь на данных которые были предоставлены при обучении. По этому, если нейросети сказать "хэй, а демократия демократичная?" она скажет да, но как только ты дашь факт что в реальности страны некоторые не выполняют демократию в полной мере она скажет что то типа "да, не все готовы выполнять идеалы демократии, потому что . . . . . . ", хотя до этого говорила что она демократичная. В общем то. Если ей в обучающих данных сказать СССР лучший она будет этому верить. Я не хочу начинать споры, но это просто примеры того, что нейросеть может иметь тоже мнение о мире, что и люди которые писали текст для обучающих данных.

[Ardbot]

Так и люди мыслят стереотипно. Что рассказали, то и говорят. Критическое мышление отсутствует

[starkover]

Необычайно полезная и своевременная информация, а то ведь вокруг ИИ формируется религиозный ужас, выраженный атеизмом в формуле "непонятное порождает страх".

[ewetay]

Но ведь человек обучается так же. Значит, нейросеть тоже имеет свое мнение

[filipputin]

Молодцы, в поисковую выдачу уже внедрили, хорошо работает.

[gr]

О да! Даешь тупенькие зацикленные тексты на всех сайтах) Хоть мёдом обмажься, но если ссылка на г...вно-сайт, то всё бесполезно) Не на то ресурсы и время тратите.

[BeAfraidOfBaobabs]

Лол, по ощущениям внутри YandexGPT тупой FSM автомат, весса на узлах которого распределяет индус на пол ставки или пол-инвалида на толоке.