Как обучаются роботы? Мы понимаем не всё

Во время эксперимента обученная нейросеть вдруг не выполнила по графику задачу, которую много раз решала успешно. Ничего не сломалось, все работало как часы. Но почему-то робот решил, что сегодня включать кондиционеры на станции метро не нужно. Причина такого «непослушания» оказалась неожиданной для разработчиков. Оказалось, роботы сами выбирают, на чем им обучаться и к каким решениям приходить.

В лектории «Прямая речь» эксперт по искусственному интеллекту Аркадий Сандлер рассказал научному журналисту Илье Колмановскому, как высокие технологии взяли нас в плен и почему это хорошо.

[maxime]

почему при постановке задачи нельзя было отсечь какие-то неважные области видео? если следить надо было только за людьми, их кол-вом и перемещениями, в обрабатываемый массив данных не должен попадать поезд, подметальные машины и прочий видеомусор
по большому счету это недочеты со стороны постановщиков задания