Регуляризация простыми словами | L1, L2, Elastic Net | Lasso, Ridge | Машинное обучение

Поддержать канал можно оформив подписку на

Преподаю на курсах в онлайн-университете на программах, связанных с ИИ и Data Science:
Приходите ко мне на занятия!

Курсы на платформе Stepik:

❓ Вопросы, на которые найдем ответы в этом видео:
- Зачем нужна регуляризация?
- Что из себя представляет регуляризация?
- Какие есть отличия L1 и L2 регуляризации?
- Как можно пользоваться регуляризацией?



0:00 Введение
0:17 План занятия
0:28 Что нужно знать для занятия

1:03 Зачем нужна регуляризация
1:18 Почему регуляризация помогает бороться с переобучением

1:45 Что такое регуляризация
2:23 Штраф на линейную модель
3:11 Большой коэффициент регуляризации
4:10 Маленькое значение коэффициента регуляризации
4:43 Коэффициент регуляризации

5:00 L2 регуляризация. Ridge. Гребневая регрессия
6:26 L1 регуляризация. Lasso
6:58 Нулевые веса при L1 регуляризации. Отбор признаков
7:27 Что такое Elastic Net
8:26 Резюме по методам регуляризации

8:39 Как использовать регуляризацию
9:12 Регуляризация для регрессии
10:12 Регуляризация для классификации
10:53 RidgeClassifier


11:20 Резюме занятия

12:06 ♡

[cosmonaut]

Спасибо! Лучшее объяснение регуляризации, что я слышал.

[АйгульСамедова-ъо]

В одной домашке вы-знаете-где хотела поменять регуляризацию в логистической регрессии с l2 на другие методы. И получила Nan в результате. Спасибо за это видео, теперь я поняла, где была ошибка)

[SerNik-wp]

Потрясающие объяснения, спасибо!
Очень помогает осознать в самообучении )

[some_name]

Спасибо большое, за старание, пришёл с Udemy с курса по ML, хотя бы картина в голове сложилась!

[ИльвирХасанов-иц]

Огромное спасибо. Суперские объяснения!

[ВиталийКенарь]

Материал изложен просто и наглядно, что очень понравилось!

[TheGnezdoOfZevs]

Спасибо огромное, скоро сдавать буду лабу, Ваше видео очень сильно помогло!

[d]

Чудесное объяснение и подача материала, спасибо

[АРТЕМИЙДАДЫКОВ]

Хороший видос, очень смешный мемесы! Лайк + подписка :))))

[bysedova]

Супер! Все понятно! Хотелось бы еще иногда видеть разбор формул, потому что забывается что-то со временем (я тут освежаю в памяти базу) и хотелось бы про нейронки увидеть контент

[АлексейСамойленко-юн]

Отличное видео, спасибо, Юлия! Не останавливайтесь!

[glavnyi_heyter]

Как же вовремя, спасибо) у меня в проекте линейка то переобучается то низкая метрика

[plained]

Смотрите тогда такой вопрос, исходя из вашего примера. В обычной задачи линейной регрессии, без регуляризации мы минимизируем функционал качества Q(w, X), то есть MSE. Мы подбираем такие B, чтобы MSE была минимальной. После добавление регуляризации Q(w, X) + a||w||^2 мы минимизируем уже эту функцию, но на основе чего? Получается чем меньше коэффициенты B, тем лучше ведь?

[ЕкатеринаА-лц]

Спасибо большое за видео! Очень хотелось бы понять, что за solver-ы такие) часто встречаю, но не очень понимаю разницу.

[semensamoilov]

фига! какой я клевый канал случайно нашел

[giblyfgiblyf]

Почему при Лассо регуляризации веса становятся нулевыми, а при гребневой нет?

[ВениаминПак-еэ]

А может кто-то объяснить, почему в L2 регуляризации веса не могут занулиться, а в L1 могут?

[arti]

Вы чудесно объясняете, но неужели у вы никогда не находили в себе мотивацию исправить речевой дефект ? Это же не так сложно