Как ИИ помогает нам понять наш собственный И. Григорий Бакунов, Яндекс.

Развивая теорию и практику искусственного интеллекта, мы стали иначе смотреть на собственно человеческий интеллект — от нейробиологии до сложных тем вроде этики и когнитивной науки. Чему в этом взгляде на самих себя нас научила работа над ИИ, Григорий рассказывает в своем докладе.

[ZugDuk]

Групповая эволюция. И только с укрупнением государств, общества стали рости присоединением в себя соседей. Во времена охотников и собирателей (а это много тысяч лет эволюции) были довольно четкие размеры групп 20-30 человек, и постоянные межгрупповые конфликты (две трети от всех смертей - насильственные в бою). Причем поражение в боестолкновении обычно означало смерть всего мужского населения группы. В этом случае выгодно хранить свою группу в здравии и единстве, чтобы не проиграть войну соседней группе - потому что иначе смерть. Отсюда мораль.

[kotbajan]

Польза морали в конкретном примере может быть в экономии ресурсов. Имея морально верное решение алгоритм не тратит энергию и время на перебор других возможных вариантов. Так же есть такое понятие, как отрицательная обратная связь. Если волки начнут супер эффективно охотится в некотором замкнутом биоме, они сократят или уничтожат тех, кем питаются - улучшение личностных качеств приводит к ухудшению окружающей среды. Мораль нужна, чтобы не спилить сук, на котором сидишь.

[sadkomusicrus]

Лекция очень интересная. Но, при всем уважении к эрудиции, опыту и знаниям Григория, гумманитарные науки все же имеют место быть. И мораль - это территория этики, юриспруденции, истории правовых учений. И даже, философии, (хотя философия и не наука). Там тоже не дураки, и не "груши околачивают". Мораль можно рассматривать не только как метастратегию сообщного выживания и не только как гарантию от прилетания "ответки". Но и как стратегию достижения цели, находящейся за пределами поверхностной игровой победы. Выиграть сражение - не значит победить окончательно. "Глубокие" криминологи могут рассказать, что есть механизмы, если угодно "нейронные связи", которые, может и не быстро, но очень способствуют "выпиливанию" аморальных типов, независимо от текущего пожелания этих типов (см., например, Теорию криминальных программ). Биологи могут сказать, что человеческий каннибализм иногда странно коррелирует с прионовыми эпидемиями. Можно также вспомнить, к чему пришли мысли одного базельского профессора, громче всех кричавшего об относительности морали - в конце его дней. И почему его, уже стариком называли "маленький святой". Человеческая мораль, в своем развитии, это не реверанс в сторону обязательного рисования или не рисования какого-либо знака. Не "ступенька для спотыкания", а ориентир к тому, чтобы (!) твой напарник получил что-то большее, чем игровая победа. Ну и самому не отказываться, если получится. В примере Григория игра Реверси плоха глобально тем, чем хороша локально. Своими рамками, ограниченностью. Жизнь - она шире. Стрела, на самом деле - летит. И Ахиллес обгоняет черепаху)

[tanyodintsova]

Помимо разграничения на свой - чужой, в некоторых африканских странах практикуется каннибализм в отношении соплеменников, и чаще в отношение дочерей вождя или шамана племени. Эти случаи изучены антропологами.

[НиколайМорозов-до]

Спасибо за лекцию!!!


ИМХО, но в задаче про "мораль" есть ошибка в интерпретации условия, оно инвертировано. Мораль - ограничивающий фактор.
Т.е. в алгоритме должно было быть условие, что если есть возможность нарисоватьбукву "М", алгоритм её не рисует, а продолжает искать другие варианты исключая данный.
Вот здесь бы было интересно посмотреть на результаты самообучения.
Опять же, здесь зависит от количества попыток, т.е. сколько программе даётся
попыток (глубина), просчёта ходов, если удалять попытку как заблокированную (в случае возможности нарисовать букву "М"),
то естественно система с "М" проигрывает, а если не удалять? Есть возможность,
что данный алгоритм будет выигрывать, потому как у него более сложные условия обучения,
хотя есть серьёзные ограничения.

Да и вообще, по-моему, Григорий, в данный момент, изучает аудиторию на способность мыслить. )

[dudovichenko]

При всем уважении, Григорий, делать выводы о таких сложных понятиях как мораль по такому простому эксперименту - чрезмерное упрощение. Нельзя игнорировать эмерджентные эффекты, возникающие при усложнении системы. Получается раковые клетки - самые эффективные (и так и есть), но они вообще-то гибнут в итоге вместе со всем организмом (или их убивает иммунитет). Что тут брать за точку отсчета? Клетку или организм? В вашей системе вообще нет уровней и взаимодействия между ними.

[DiamondSane]

У морали наверняка есть и другие функции, вроде идентификации свой/чужой.

[СергейЧерных-пф]

Мораль - это гандикап, который вы не учитываете. Нельзя сравнивать секс и любовь, раба процедуры и вольного человека ощущающего себя частью мощного эгрегора.