Comment utiliser un LLM HuggingFace en Local ? (Mistral AI, LLama2, ...)

Dans cette vidéo vous allez découvrir comment utiliser facilement un modèle d'IA en local !

-----------------

Liens Utiles:

-----------------

Vous souhaitez utiliser des modèles d'IA open source mais vous ne savez pas comment faire ? Dans cette vidéo je vous montre étape par étape comment télécharger et utiliser un LLM depuis HuggingFace en local sur votre PC. Vous pourrez alors utiliser Mistral 7B ou LLaMa2 sans connexion internet avec la même interface que ChatGPT.

-----------------

Si vous avez la moindre question n'hésitez pas 👍

[GillesDecruzel]

Bonjour, tres tres intéressant. Serait il possible de charger une base de connaissance specifique afin que lors de ses réponses, il puisse utiliser sa propre base de connaissance ?

[AyMar-cm]

Thank you for this video, I'll start following you

[christiancolin]

Merci pour ce tuto. Est-il possible de faire analyser un document qui est sur son disque dur en restant 100% en local ? Si oui comment faire ? Merci

[ccx]

hello merci pour ta vidéo ! j'ai suivie ton tuto mais j'ai un message d'erreur quand je veux utiliser le modéle . This processor does not support AVX2 instructions.

[IDHecdemanor]

Il y'a pas un disponible pour les smartphones

[onedream]

c'est possible d'avoir des chats bot ? ou c'est uniquement sur le site qui je le rappel ( bug énormément aucun moyen de parler avec le chatbot )

[melitalia]

Tu sais comment faire du RAG avec LM studio ?

[TheFredFred]

Bonjour je souhaite changer de MacBook et j’aurais voulu savoir quelle configuration tu as pour faire tourner en local ces modèles. Évidemment le nombre de cœurs CPU GPU compte j’imagine et surtout la RAM unifiée qui est semble être un vrai atout d’Apple Silicon pour les perfs. Mais voilà quel config min avoir ? Merci 🙏 mille fois !

[Paul-qlvb]

Bonjour quelqu'un peut m'expliquer l'intérêt d'utiliser ça plutôt que ollama :)