DESCENTE DE GRADIENT (GRADIENT DESCENT) - ML#4

L'algorithme de Gradient Descent est probablement un des algorithmes les plus importants de tout le Machine Learning et de tout le Deep Learning. Voici pourquoi:
L'algorithme de Gradient Descent (la descente de gradient) est un algorithme d'optimisation qui permet de converger vers le minimum de n'importe quelle fonction Convexe. En Machine Learning, on va utiliser cet algorithme dans les problèmes d'apprentissage supervisé (Supervised Learning) pour minimiser la fonction coût associée a modèle est au Dataset. Cette fonction Coût se veut justement être une fonction Convexe !
Pour comprendre son fonctionnement, l'analogie de la montagne aide beaucoup: On peut trouver le point le plus bas d'une vallée en suivant la direction de la pente qui descend le plus. Ainsi l'algorithme calcul le gradient de la fonction Coût (c'est a dire la pente de la vallée) pour se déplacer progressivement vers son minimum.
Avec ce mécanisme, il est possible de trouver les meilleurs paramètres de notre modèle, c'est-a-dire les paramètres qui retourne les plus petites erreurs.
Dans la Descente de Gradient, il existe ce qu'on appelle le Learning Rate, qui n'est ni plus ni moins que la vitesse de convergence de la descente de gradient vers le minimum de la fonction coût. Il faut être vigilant sur le choix du Learning Rate: S'il est trop grand, on risque de toujours tourner autour du minimum sans jamais l'atteindre, et s'il est trop petit, on risque de mettre un temps infini avant de l'atteindre.

► Soutenez-moi sur Tipeee pour du contenu BONUS:

► ARTICLE EN COMPLÉMENT DE CETTE VIDÉO:

► REJOINS NOTRE COMMUNAUTÉ DISCORD

► Recevez gratuitement mon Livre:
APPRENDRE LE MACHINE LEARNING EN UNE SEMAINE
CLIQUEZ ICI:

► Qui suis-je ?
Je m’appelle Guillaume Saint-Cirgue et je suis Data Scientist au Royaume Uni. Après avoir suivi un parcours classique maths sup maths spé et avoir intégré une bonne école d’ingénieur, je me suis tourné vers l’intelligence artificielle de ma propre initiative et j’ai commencé à apprendre tout seul le machine learning et le deep learning en suivant des formations payantes, en lisant des articles scientifiques, en suivant les cours du MIT et de Stanford et en passant des week end entier à développer mes propres codes.
Aujourd’hui, je veux vous offrir ce que j’ai appris gratuitement car le monde a urgemment besoin de se former en Intelligence Artificielle.
Que vous souhaitiez changer de vie, de carrière, ou bien développer vos compétences à résoudre des problèmes, ma chaîne vous y aidera.
C’est votre tour de passer à l’action !

[MachineLearnia]

Cette vidéo est assez longue car elle contient pas mal d'information. Alors voici comment vous rendre directement aux principales sections:
0:00 : Introduction et résumé rapide du Gradient Descent
1:40 : Analogie de la Descente de la Montagne
2:56 : La formule du Gradient Descent et sa visualisation
6:06 : Explication Mathématique
9:04 : Learning Rate alpha
10:18 : Calcul du Gradient
12:40 : Résumé de l'algorithme complet (Régression Linéaire)

[makrimkarim]

Merci â ALLAH qui nous a creé ces grands cerveaux en occident 2023, comme ce merveilleux jeune talentueux nous a beaucoup appris et grace à lui jai beacoup aimé la notion du dérivé que je detestait auparavant, merci au dieu tout puissant pour tous ces vertus scidntifiques hightech qui nous épatent chaque matin...BRAVO NOTRE PROF 👍👍👍👍👍👍👍👍👍CONTNUEZ

[ismatchaibdraa]

Je suis data scientist depuis deux ans et enseignant chercheur à l'université de Valenciennes mais je n'aurais jamais pu vulgariser et si bien expliquer la gradien descent, qui est le fondement du ML, parce qu'au final ce qu'on fait c'est que descendre des gradients. En tout cas, ta chaine est parfaite :)

[free_thinker]

Vous êtes la pédagogie en personne ❤️🙏

[juln]

Qu'est-ce que tes vidéos sont intuitives et compréhensives.

Un grand merci pour ton travail.

[skogmze]

Pour ce qui concerne le "Learning rate", je pense que nous avons la possibilité de choisir une valeur initiale très élevée et de la réduire progressivement au cours du programme. Si la dérivée de la fonction de coût change de signe, nous pouvons diviser la variable alpha (le "Learning rate") par 2. En utilisant cette méthode, nous pouvons bénéficier d'un apprentissage machine beaucoup plus rapide tout en évitant que la machine n'atteigne un modèle sous-optimal. Cette approche permet une convergence efficace vers le meilleur modèle. Je tiens à vous remercier pour votre excellent travail, c'est vraiment génial !

[phoenixdeparis]

Masterclass cette série, merci monsieur !

[lahninemohammed]

Merci monsieur, c'est très clair et ça donne envie de découvrir ce monde de l'intelligence artificielle.

[mafouzbakinde]

J'adore votre pédagogie. Vous partez du principe que nous ne sommes pas tous bons en maths et vous arrivez à bien nous expliquer les choses. Je vous en remercie.

[elimanediallo]

Je sors de mes études d'énergies renouvelables et n'ai pas encore trouvé de travail, merci pour vos vidéos qui me permettent de monter en compétences et m'aideront éventuellement à changer de métier

[lachainedejosueromba]

Merci pour l'effort, la qualité des vidéos et de l'explication associée

[belkassem]

Hi Guillaume
I am student at University of Maryland University College. I am taking this semester machine learning class (DATA630) and I found your video while looking for something to help me out. I am under charm not only for the quality of the videos but also how you explain simply things that seem to be complicated before. I am lucky for being bilingual or I could miss this.

I requested and received the e-book.
Thank You very much. "You're the MAN"

[jeanfranswagg]

Je viens de regarder et surtout de prendre des notes sur les 4 premières vidéos de la playlist.
Un énorme merci pour m'avoir autant éclairci sur les notions que je ne comprenais que très mal en cours de ML, vidéos d'une grande qualité, explications d'autant plus.

[thierryouandji]

J'ai suivi plusieurs cours parlant du maching learning mais j'avoue que votre cour est le seul qui me permet de mieux comprendre

[marcobass]

Je vous suis depuis qlq mois et j'adore le travail que vous faites, le contenu est bien expliqué, les exemples bien illustrés la qualité de la vidéo est super !!! J'apprends énormément grâce à vous un grand merci

[ziedguendil]

Vous êtes un trésor Monsieur , vos vidéos !!!! franchement c'est un vrai régal (Instructif, pédagogue ) çà me donne l'envie d'apprendre et de monter en compétence un grand merci de la Tunisie :)

[mamadoucherifba]

Vous etes la personnes la plus pédagogue que j'ai connu dans ma vie. Merci Beaucoup pour ces enseignements limpides. Je vous aime

[mountassirkh]

Vos explications donnent envie de bosser, merci énormément !

[naimalounes]

Rien à dire juste magnifique ! Très simple et efficace ! Bonne continuation

[instrumental_box]

Votre manière d'expliquer les choses est tout simplement parfaite. Je ne fais qu'enchainer les videos de la playlist. Difficile de faire mieux