Главная проблема ИИ, которую никто не может решить

Как контролировать искусственный интеллект, который умнее нас? Почему ИИ может стать последним изобретением человечества? От умных роботов до галактических империй — как ИИ может изменить Вселенную. Разбираемся, почему сверхразумные цивилизации будут расти как бокалы шампанского, как они будут контролировать целые галактики, и останется ли в этом будущем место для людей. Разбираем главную проблему: сможем ли мы научить машины нашим ценностям до того, как они станут слишком умными для контроля?

При создании ролика я преимущественно опирался на:
Книгу Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта (Макс Тегмарк)
Книгу “Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте” (Брокман Джон)
Книгу “Атлас искусственного интеллекта” (Кейт Кроуфорд)

Советую посмотреть ролик канала Rational Animations про создание злого ИИ:
The True Story of How GPT-2 Became Maximally Lewd

Таймкоды для навигации по ролику:
00:00 - Системы глубокого обучения с подкреплением
03:06 - Последний бастион человеческого интеллекта (Ли Седоль vs DeepMind)
06:24 - Обучаем ИИ игре Breakout + Конференция по нейросетям "Навыки будущего"
09:18 - История умного коня Ганса
11:22 - Что значит быть "умным"?
14:36 - Крупнейшие неудачи внедрения ИИ
18:49 - Выживут только ИИ-любовники
20:53 - Когда появится суперинтеллект? Мнение Сэма Альмана
23:28 - Поиск определений понятий "интеллект" и "общий"
31:25 - Может ли сверхинтеллект хотеть производить скрепки?
33:19 - Первая технология, способная погубить жизнь
36:05 - А что думает ИИ про безопасность ИИ?
38:03 - Самый похотливый ИИ всех времен
42:13 - Проблема загрузки ценностей
42:45 - Истоки целей в природе
47:20 - Согласование целей ИИ с целями людей
51:24 - Выбор целей
55:48 - Будущая жизнь
58:20 - Информация как главный товар будущего

Поддержать выход новых роликов можно:
✨ На Патреоне (зарубежные карты)
✨ На Бусти (российские карты)

BTC
1QFQRDfzVUgWmpY2j3GT9qxxZhShqVQngY
ETH
0x65d33bd38f5a021b097253045306367334975402

Спасибо!

Реклама: erid=2VtzquqoqQP

[homo_deus_synergy]

Регистрируйтесь на бесплатную конференцию по нейросетям «Навыки будущего»

Таймкоды для навигации по ролику:
00:00 - Системы глубокого обучения с подкреплением
03:06 - Последний бастион человеческого интеллекта (Ли Седоль vs DeepMind)
06:24 - Обучаем ИИ игре Breakout + Конференция по нейросетям "Навыки будущего"
09:18 - История умного коня Ганса
11:22 - Что значит быть "умным"?
14:36 - Крупнейшие неудачи внедрения ИИ
18:49 - Выживут только ИИ-любовники
20:53 - Когда появится суперинтеллект? Мнение Сэма Альмана
23:28 - Поиск определений понятий "интеллект" и "общий"
31:25 - Может ли сверхинтеллект хотеть производить скрепки?
33:19 - Первая технология, способная погубить жизнь
36:05 - А что думает ИИ про безопасность ИИ?
38:03 - Самый похотливый ИИ всех времен
42:13 - Проблема загрузки ценностей
42:45 - Истоки целей в природе
47:20 - Согласование целей ИИ с целями людей
51:24 - Выбор целей
55:48 - Будущая жизнь
58:20 - Информация как главный товар будущего

При создании ролика я преимущественно опирался на:
Книгу Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта (Макс Тегмарк)
Книгу “Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте” (Брокман Джон)
Книгу “Атлас искусственного интеллекта” (Кейт Кроуфорд)

Советую посмотреть ролик канала Rational Animations про создание злого ИИ:
The True Story of How GPT-2 Became Maximally Lewd

Поддержать выход новых роликов можно:
✨ На Патреоне (зарубежные карты)
✨ На Бусти (российские карты)

Спасибо!

Реклама: erid=2VtzquqoqQP

[Олександр]

Я конечно извиняюсь но стратегия с забиванием шарика под потолок явно не является чем то о чем "не знали даже разработчики!"

[НиколайБутягинобразования]

Что Вам сказать, Ваша аналитика просто восхитительна, Ка Вы и ALI, лучшее что есть в ютубе!

[ikusagami]

наконец-то не нужно ждать видосы ALI по пол года
спасибо
хахахахахха

[karlkaplan]

мне понравилось про то как ИИ решил задачу с научными исследованиями, изменением своего кода.

[alexparker]

Как же я благодарен ИИ алгоритмам рекомендаций Ютуба за твой канал. Не слушай хейтеров, они всегда всё обосрут, делай дальше как считаешь нужным. Удачи тебе, и будь здоров.

[ToymasterLigr]

"Алан Тьюринг был не только ученным, но и геем!"
Столько красок в этой, вырванной из контекста, фразе xD

[Lord_youtube]

Смысл жизни ИИ - делать скрепки.📎
Он должен прикладывать все свои вычислительные возможности для максимизации эффективности производства скрепок.📎 Вся вселенная должна быть превращена в скрепки! 📎🦾📎

[TheBlazerGOLD]

Это, конечно, прозвучит токсично или как там нынче модно говорить, но по-моему, это видео пересказ роликов ALI, а я их до дыр затёр уже. Эти ролики даже структурно похожи, просто более пластмассовая копия. Я, разумеется, предвзят, но это чувство меня не покидало до самого конца просмотра

[pinethewise]

37:00 Смысл показывать ответ моделек, которые составят тебе ответ на основании комбинаций из фрагментов, которые когда-то написал сам человек или группа людей? Эти модели, упомянутые автором, не способны иметь своё мнение. Более того, они не понимают информацию, которую они получают от нас, и которую они нам отдают в виде ответов. Для них это всё — комбинация слов, где каждое слово имеет ту или иную вероятность быть уместной в связке с другими себе подобными словами. Такими словами в мире ИИ называются токенами. Токены — это просто набор уникальных 16-ричных чисел («08ec0ed», «4aad940» и т.д.). А вероятность «удачности» в том, чтобы использовать несколько токенов вместе — называют весами, по сути, это обычное вещественное число от 0.00 до 1.00, где 0.00 — нет никакой связи («сто [0.00] пропуск [0.00] конец»), а 1.00 — найдена полноценная связь («тысяча [1.00] чертей», «тысяча [0.5~] чёрт» и тд).

Если очень грубо сопоставить анатомию мозга и то, что мы о нём сегодня знаем, то весы — это коэффициент заряда в синнаптической цепи (0 — отсутствие заряда, а 1 — заряд проходит полноценно), токены — рецепторы по разные стороны у синапсов внутри нейронных клеток. Но модели на основании глубокого обучения, которые есть у того же Open AI мало, что де-факто имеют общего с тем, как устроен настоящий мозг человека. Лишь подобие. И ключевая разница — мы осознаём, что у нас спрашивают и что мы отвечаем, а эти модели — никак нет. Они просто работают по алгоритму. Например, такому:

∑wixi + bias = w1x1 + w2x2 + w3x3 + bias
output = f(x) = 1 if ∑w1x1 + b>= 0; 0 if ∑w1x1 + b < 0

[DragonsLord]

Я видел вчера подали массовый иск в суд на Скиллфэктори. Потому что лохотронщики. А ты их рекламишь. Не стыдно?

[Rty-rlqc]

Браво! Идеи Юваля звучат свежими нотами. Очень приятный, вкрадчивый голос, безупречная дикция, фантастически интересный материал. Спасибо за ваш труд!

[vbchanell]

Учёные: У нас есть некоторая вероятность, что испытания этой атомной бомбы приведут к исчезновению жизни на Земле.
Политики: Взрываем.

[CHEKIST]

Не рекомендовать видео с этого канала, советую всем. Брат жив, пишу не с рукомойника.

[hzmofficer]

Почему не предположить, что человек есть просто один из этапов экспансии жизни во вселенной. Так же, как когда-то на этом пути существовала эдиакарская биота, или пургаториусы. И так же как они не могли представить будущее в образе человека, так и мы не в состоянии осмыслить масштаб изменений.

[arkasi]

1:11 это шутка? самая простая стратегия и вы говорите что даже создатели не могли ее найти… камон

[boran]

Ячеловек простой, вижу рекламу скилбокс - закрываю видео

[arkasi]

Мда, короче ролик не о чем, просто переборка достаточно известной инфы с через мерным пафосом, и мистификацией, без каких либо рассуждений на тему…

[nofate]

всё сделано по качеству просто отменно, лайкосик от меня. даже немного удивилась

[angodefroy]

Люди бы сами сначала разобрались, что хорошо, а что плохо, а потом уже учили этому ИИ😂