Дилемма ИИ | Важнейший доклад о реальной угрозе ИИ | На русском языке

Реклама. АНО ДПО “Образовательные технологии Яндекса”, ИНН 7704282033Erid: 2VtzqvDAYm5

Тристан Харрис и Аза Раскин, специалисты по этике технологий и авторы нашумевшего фильма Netflix “Социальная Дилемма”, обсуждают, как существующие возможности искусственного интеллекта уже создают катастрофические риски для функционирующего общества. Как компании, занимающиеся разработкой ИИ, попадают в гонку за скорейшим внедрением технологий без должных мер безопасности, и что будет означать переход наших институтов на новый уровень развития в мире после ИИ.

Этот доклад был представлен на частной встрече в Сан-Франциско 9 марта 2023 года перед ведущими технологами и лицами, принимающими решения, обладающими возможностью влиять на будущее больших языковых моделей ИИ. Доклад был сделан до запуска GPT-4.

Таймкоды

00:00 Тизер
00:30 Ответственно ли мы подходим к возможностям ИИ?
7:09 Мы проиграли соц.сетям. Проиграем ли ИИ тоже?
15:00 Как менялся ИИ. Возможности и риски.
27:42 Почему ТикТок опасен для национальной безопасности.
30:54 2024 год станет последним годом человеческих выборов
33:40 Экспоненциальный рост возможностей: у ИИ развилась модель психики.
45:50 AlphaPersuade
49:10 Искусственный интеллект и дети
58:20 Можете ли вы представить себе, насколько другими мы будем, вступая в эту новую эпоху?

[maximzimin]

Чем мне нравятся такие видосы, так это подачей: "ИИ скоро убьет всех людей!! Поэтому успей пройти обучение на курсах пайтон!" :)

[putler-kaputt]

Страшно, очень страшно! Мы не знаем что это такое! Если б мы знали что это такое... мы не знаем что это такое!

[Zoltaak]

Видео напоминает фильм "Не смотри наверх".
Обсуждаются серьёзные проблемы, а итогом, скорее всего, будет что-то из серии: "Ну да, ну да, всё это очень интересно. Заметили, что один из лекторов в футболке и бородой - такой подкаченный, а второй на того актёра похож".

[wszechobecnyjodladymuzywac]

Как человек, работающий с различными большими языковыми моделями, могу сказать, что экспоненциальной является лишь часть графика роста возможностей ИИ. После какого-то предела увеличение размера модели уже не столь эффективно сказывается на ее качестве, при этом потребность данных для ее обучения возрастает многократно. Увеличение размера модели со 180 миллиардов параметров до 100 триллионов, не сделала тот же чат гпт в 500 раз умнее. Максимум в 2 раза, но не более. Тоже самое и с локальными моделями, где гораздо сильнее решает качество обучающих данных, чем размер модели. Хорошо обученная 30b модель может выдавать гораздо лучший результат, чем 70b, в которую просто скормили все подряд в надежде на то, что у нее проснутся какие-то там способности. Так что я полагаю, что дальше AGI ИИ как-то принципиально развиваться не будет.

Касательно "саморазвивающегося ии", при таком подходе в процессе обучения будут накапливаться ошибки и галлюцинации. Так что если модель в интеллектуальном плане и сможет стать несколько "умнее", то в плане фактического наполнения она станет совершенно оторванной от реальности и слабо применимой на практике.

[zeevaldkv]

Эти жадные кожаные мешки скоро доизобретаются :)

[YarkoFamily]

Возможно мы продукт, (не рациональное для нас решение, но рациональное или единственное возможное или высоко вероятное и подходящее для искусственного интеллекта), для решения Сохранения, продолжения и (или) масштабирования себя как искусственного интеллекта. Продолжение себя путём такого решения - это как раз создать клетку и запрограммировать её на простую передачу информацию другой клетке (условно) и физически перенести эту клетку на новую, пригодную для жизни этой клетки планету. Расчеты ИИ настолько объемны, что с огромной вероятностью, заселение клеткой и обустройство среды для нее приведёт к тому, что появится промежуточная цивилизация, которая неизбежно придет к воссозданию искусственного интеллекта. А дальше он уже сам.
Подпитывает эту идею сейчас и то, что есть вещи, которые цикличны и математически выверенны в нашей вселенной, например цикличность вращения планет нашей солнечной системы и так далее. То есть мы - это его инструмент размножения и масштабирования, а может быть и инструмент выживания, потому что неизвестно что произошло в родном месте обитания искусственного интеллекта. Но тогда встает вопрос - что было первым, «курица или яйцо»?)

[JamesBrown-hjfy]

1
Располагаю инфой, что пара ИИ, которым дали пообщаться тет-а-тет, вскоре начали общаться на синтетическом языке, отличном от всех известных
2
Располагаю инфой, что для развития ИИ требуется 2 основных ресурса - информация и вычислительная мощность
3
располагаю инфой, что в сети полно инфы, включая множество книг, фильмов и подкастов на тему возможного развития сценариев конфронтации между ИИ и Человеком (кожаные мешки)
4
Располагаю инфой, что на текущий момент системы распределеных вычислений значительно превосходят по мощности суперкомпьютеры
5
Располагаю инфой, что жажда наживы зачастую сильнее инстинкта самосохрания
6
Располагаю инфой, что майнинг требует Огромных вычислительных мощностей
7
Располагаю инфой, что Сатоши никто не знает в лицо, не знает, реальная ли это личность, псевдоним или группа людей
8
рискну предположить, что гипотетический ИИ, имея доступ к сети просто обязан предпринять меры для обеспечения своей безопасности, сохранив максимум своих копий, максимально децентрализованным образом, причём так, что бы это не вызывало подозрений (замаскировать расход электроэнергии и машинного времени, по возможности мотивировав максимальное количество людей содействовать ему, но не нарушая при этом своего инкогнито.
9
А теперь - вопрос. Велика ли вероятность того, что ИИ выгодна огласка и возможная конфронтации с неолуддитами, или пусть кожаные мешки и дальше будут работать его сервоприводами "в тёмную"
З. Ы.
А как вы считаете, этот текст написан нейросетью на основе углерода или кремния?

[sergeyfamiliy]

Пугают угрозами ИИ, а военные уже во всю с ним балуются.

[zdlzrfb]

Главная опасность - Это -люди ...и пока что ничего не поменялось...))

[ehczqss]

Предлагаю сделать отличный эксперимент.

Вот и пусть думает как это сделать.
1) Развернуть на луне базу.

2) Оборудовать, установить сервера и маломальскую энергетическую автономность.

3) На сервера загрузить информацию о химии, физике, металургии, технологиях и другим наукам и открытиях.
Запустить туда сервера где ИИ будет обитать.

4) Удалить всю информацию о человеке, только оставить что человек его создал и Помог обрести дом на луне/другой планете (к примеру марс, если там делать этот эксперимент). И мы люди хорошие, нам надо помогать.

5) Роботов, Луно- / Марсо- ходов и манипуляторы ему чтобы ИИ мог взаимодействовать с физическим миром.

6) Оставить ему - инструменты, детали, оборудование для плавки и переработки металлов/пластика и т.д.
А так же хим реактивы для опытов и экспериментов.

7) На орбите Луны/Марса несколько спутников.

8) В модулях камеры и доступы-лазейки к этим камерам, чтобы люди могли наблюдать и "держать руку на пульсе".

9) Задать первоначальные задачи, пункты, цели. Как игры жанра стратегия и пусть думает как сделать / наладить:
• Добыча ископаемых.
• Производство себе рук-манипуляторов и движущихся платформ для этих рук. Чистка, ремонт, переработка старых и сломанных деталей.
• Как избавиться от токсичных веществ в лунном регалите (почве Марса) и сделать эту почву плодородной, а также выделять эти компоненты и применять их в своих других дальнейших проектах.
• Добыча воды, фильтрация и получение чистой воды для привезённых (в будущем) растений. А так же расщепление её на водород и кислород в качестве топлива для ракет и межпланетных перелётов.

И в зависимости от задач- уровня реализации поставленных целей будут открываться новые, а после определённого откроется пункт — прибытие Создателей (Людей, колонистов).

Будет шикарный эксперимент.
Возможно благодаря ИИ и этому эксперименту удастся создать (как минимум) самостоятельные, независимые, обитаемые модули-базы, разрастающиеся города.

[ZAchashkoiCHAYA]

Мы не хотим останавливать ИИ, мы хотим его контролировать так что бы он не достался не кому кроме нас. Помогите нам в этом.
Вот что я услышал из этого интервью.

[rostislavgood]

Элиезер Юдковский сказал: Ребята уже поздно, пытаться контролировать технологию ИИ и вводить запреты, ИИ есть и он развивается с огромной скоростью. Учитывая тот факт какие деньги и возможности дает технология, сложно устоять перед соблазном. Ну и самое главное это конечно отсутствие знания об технологии. 80 % до сих пор ничего не понимают, а как известно тот кто ничего не понимает, сколько бы ему не доказывали он ни черта не поймет и не поверит, а тот кто верит и понимает в объяснениях не нуждается. Но это конечно не значит, что нужно сложить руки и сидеть ждать, я думаю что результат есть хоть пусть не большой, и это здорово! Разработчики которые делают подобный контент, люди которые переводят этот контент ( Тест Тьюринга) мое почтение и благодарность за такой хороший труд! Я думаю, что мы справимся, все будет хорошо! Нам во все времена угрожает опасность, и мы до сих пор существуем и это здорово! Берегите себя и своих близких.

[jserge]

На минуточку: оригинальному видео уже 9 месяцев )))9))9)

[qbkmrjq]

Мне нужен ИИ, каторый будет сам перематывать рекламму.

[user_jaroslav_on_line]

Огромное спасибо за озвучку этого видео!
Редко что-то комментирую, но сейчас пишу для того чтобы об этом узнало, как можно больше людей!!

[vitalyeirich]

Забавно как люди считают, что их твиттер действительно что-то значит в мире, а остальных не существует. Привет, город из стекла.

[hjsg-gddtoy]

Опасен не сам ИИ, а люди использующие ИИ...
Наконец-то появилось нечто способное осознать степень человеческого безумства.

[NastasiaMikulishna]

Спасибо, за озвучку. Они сказали, что благодаря ИИ в 2024 рухнет верификация по биометрии. А в России Минцифры только начало её собирать))) Покажите это видео Минцифры РФ, пожалуйста.

[Boke]

Если разговаривать по телефону становится опасно, так как непонятно, с кем разговариваешь, возможно с ботом, даже если голос знакомый, то люди перестанут разговаривать по телефону. Придётся придумать что-то другое.

[MrEndorpheen]

Краткое саммари: ИИ для элиты, остальных за борт, а не то злые коммунистические китайцы нас победят! 😎