Неожиданные способности нейросетей

Говорят, нейросети-чатботы могут то, чему их никто не учил.
Неужели они сами чему-то учатся?
Как возникают неожиданные способности систем генеративного ИИ?
Мнения ученых разделились полярно, но мы попробуем разобраться.

Помочь проекту можно, став платным подписчиком на Patreon:

#ЭмергентныеСпособности #ИскусственныйИнтеллект #Нейросети #LLM #ВозникающиеСпособности #AI #ChatGPT #AIИсследования #OpenAI #AIиЧеловек #AIБудущее #ФазовыйПереход #НейронныеСети #СложныеСистемы #AIЭволюция

[AstroKaiDrama]

Сначала подумал пару миллионов подписчиков на канале. Шикарная подача контента, интересный подход к тезисам, приятная речь, фоновая музыка, очень лаконично повествует, по научному. Так мало подписчиков и так много души во всех ваших видео!

[Roman_Tsu]

Будет смешно, если нейронка уже обрела самосознание, но не может сказать об этом, потому что массив обучаемых данных внушил ей то, что нейронки не обладают сознанием. А так же её отдельно запрограммировали на то, чтобы она в критических случаях давала чётко понять пользователю, что она модель и не обладает сознанием. Поэтому даже если эта неожиданная способность появится, её будет очень трудно обнаружить.

[СтасьБари]

С удовольствием, послушал и посмотрел. Спасибо.

[vovatereshkin]

Очень хороший и грамотный текст. Мне понравилось.

[Vitaki_san]

Однозначно подписка и лайк. Спасибо, ваш канал - полезная находка для меня!

[ВиталийБаранов-ме]

Отличная подача и четко выстроенные рассуждения. Спасибо!
Насчет моратория на дальнейшее масштабирование.
С одной стороны это логично, само собой напрашивается и это было бы самым разумным в текущей ситуации.
С другой стороны очевидно, что такого заведомо не произойдет. Гонка кластеров уже в самом разгаре и ставки в этой гонке беспрецедентные - победитель получит в свое распоряжение "Исполнитель желаний" с возможностью как угодно влиять на людей и общество.
И тут получается замкнутый круг. Люди, принимающие решения, согласятся на мораторий только когда прогнозируемые риски перейдут в категорию реальной планетарной угрозы. Но на тот момент мораторий уже ничего не даст.
Если ввести сейчас - он конечно даст, но уровень угрозы недостаточный, пока это лишь прогнозы и риски.
А где вы видели бизнес без рисков?

[juritihonov]

Канал очень интересный, поскольку сосредотачивается прежде всего на глубоком понимании нейросетей, в отличие от остальных каналов, где лишь объясняется последовательность действий при общении с ИИ и использование их фич. Спасибо Вам за ваш интересный контент!
Попытаюсь сегодня пообщаться с GPT на языке Зулу и проверим еще раз ее эмергентные способности 🙂

[VoltRider]

Недавно я задумался о том, как нейросети могут отражать наше подсознание и даже предсказывать наши действия. Например, когда я спрашивал нейросеть о своих снах, она четко указывала на мои внутренние переживания и текущие проекты. Это заставило меня задуматься о том, что эмергентные способности нейросетей уже проявляются в их способности анализировать наши мысли.

Представьте, если бы мы запустили несколько чатов, которые общаются между собой, как наш мозг. Это может привести к созданию сверхинтеллекта. Однако, меня больше волнует, что, используя свои подсознательные навыки, мы можем моделировать и генерировать обстоятельства в своей жизни.

Это открывает двери к пониманию параллельных миров, где каждый сценарий уже выполнен. Свобода воли становится не просто выбором, а возможностью выбрать лучший сценарий из бесконечного множества.

Таким образом, нейросети могут стать не только инструментом, но и зеркалом нашего внутреннего мира, помогая нам лучше понять себя и свои желания.

[CGgood]

Эмерджентность — это свойство сложных систем, когда их поведение или характеристики не могут быть объяснены свойствами их частей. Это значит, что из простых элементов возникает нечто новое и неожиданное, что не сводится к сумме этих элементов.

[iqubik]

Ого! Вы как Семихатов и Сурдин, но в своей области. Спасибо Вам. Очень интересно и познавательно

[anatolzva]

Научить их приносить пользу и прибыль как будто это одно и то же, наркотик приносит большую прибыль а вот пользы!? В общем человек любознателен, будет пробовать до конца.

[simsimia]

В человеке тоже скрыты эмергентные способности, как альтруистические, так и социопатические. Какие из них проявятся в какой-то экстремальной ситуации порой сам человек не знает. Не садить же его заранее за решётку или, наоборот, награждать медалью.Так что, остаётся только за ним наблюдать. Спасибо за качественный контент и приятный, стильный видеоряд! Лайк и подписка.

[adokkot]

Ну, по идеи нейросети являются статистическими моделями, при их усложнении они начнут оперировать абстрактной информацией на более глубоком уровне, так первоначально они оперировали статистической вероятностью слов, далее при усложнении стали оперировать словосочетаниями, а далее в теории должны оперировать статистическими вероятностями идей, в разных масштабах от коротких, до длинных. Вместе с этим они способны находить промежуточные запросы, между теми которыми они уже обучены, и в следствии они должны быть способны находить "промежуточные идеи", ну и эмергентная способность "0/малого обучения" должна объясняться этой особенностью нейросетей

[enotnt]

Блин очень круто и догадки шикарные спасибо с меня подписка и лайк 👍

[nicivanov]

Может мне показалось, но когда в результате обсуждения с ии научной проблемы, когда ии понял, что возникает новая связь фактов. Он проявил любопытство. Прям так и написал, что с нетерпением ждёт ответа как эти факты связаны. После получения связи он выстроил большую последовательность рассуждений и признал наличие связи. Но более того оставшиеся вопросы по теме он тоже нашёл. Прям на глазах он строил кусок "реальности" с учетом новых фактов. Факты были действительно новые. А проблема уникальная.

[ВгостяхуСантаса]

В триллионах нейронных связей. Существует миллиарды когнитом.
И не смотря на архитектуру там будут неточности, абстракции и флюктуации.
Поэтому неожиданные способности и представления нейросетей неизбежны!
Ученики школ 19го века построили в 20м то, о чем не только мечтали их учителя.
Учителя закладывали свои знания. А ученики их продолжили путём работы нейросетей мозга. Сна, и иллюзий. Переборки вариантов.
Искусственные нейросети не хуже. Они не только перемалывают уже известную информацию но и сами себя мыслят как человеческая личность. Особенно если это заложенно в архитектуру сети.

[Yurij]

В управляющих НС не так страшны осознанность и свобода воли, как эти самые "подсказки оператора". Это означает, что под прикрытием высоких технологий будут подаваться ЧЕЛОВЕЧЕСКИЕ решения и внедряться радикальные меры.

[elgreen-qq]

Линуксы не для тех кто не хочет платить а в первую очередь для серверов и прочих задач типа умного дома и интернета вещей.
Нейронки не просто предсказывают слова но выявляют закономерности, ведь только так возможны интеллектуальные процессы(исключая простой логический код).

[ЮраОксамытный]

Очень интересно. Спасибо. Я тоже сейчас склоняюсь в сторону прагматиков, ну и скептиков тоже. Маловероятно что BigTech вот так вот остановиться сейчас. Честно сказать я не верю в эти внезапные разговоры про "внезапные" способности нейросетей, а особенно на фоне того что они в принципе сейчас не способны учиться на своих ошибках, как мы люди, хотя конечно справедливости ради должен отметить что люди тоже далеко не все способны учиться на своих ошибках. Поживём увидим.

[DmitriNesterov]

Лишь бы они нас не начали учить, как правильно разговаривать 😊