Mistral AI - je fais tourner un LLM sur mon macbook avec Mistral 7b

Découvrez Mistral AI, la jeune entreprise française qui révolutionne l'IA avec son modèle Mistral 8x7b et sa technologie innovante de 'Mixture of Experts'.

Dans cette vidéo, je plonge dans le monde fascinant de Mistral AI, expliquant comment leur modèle phare, Mistral 7b, excelle dans la performance et l'efficacité, et comment vous pouvez l'exécuter sur un MacBook Pro.

De plus, je compare Mistral 7b avec d'autres modèles de langage de pointe.

Abonnez-vous pour plus d'analyses approfondies sur les dernières tendances en IA et soutenez ma chaîne pour ne manquer aucune mise à jour sur Mistral AI et d'autres innovations en IA générative. #LLM #GenAI #MistralAI

[khangvutien]

Suggestion pour les prochaines vidéos : peut-être au début quand vous compilez llama.cpp vous pourriez favoriser plus la fenêtre de Terminal ? La fenêtre du github ne présente pas un intérêt tel qu’il faille la garder plus grande que Terminal ?
Merci en tout cas, c’est une vidéo très interessante

[marcdubois]

Y’a un logiciel qui centralise tous les model, le logiciel s’appel Jan il téléchargera automatique les model open source comme Mixtral, on doit même pouvoir ajouter ces clé pour chatGPT

[IlVautMieuxReflechirQueDEcrire]

Bonjour,
Super comme alternative à GPT. Merci pour le partage.
Comment peut-on "fine-tuner" un modèle téléchargé en local ?
Je souhaite par exemple améliorer les capacités du modèles au codage en python pour du traitement de données.
Existe-t-il une communauté partageant des modèles de Mistral 7B entraînés pour des applications spécifiques?
Merci d'avance pour vos conseils!

Testé et validé, j'ai adapté le code en notebook sur VSCode et le ressenti n'est pas impressionnant.
Toutefois, via le terminal en mode discussion, je dirais que c'est très prometteur.
Je n'ai pas pu/encore tester le modèle : mixtral-8x7b-32k.

Sinon, merci pour ton contenu, j'apprécie grandement ton travail.

[damienaix]

salut serais-tu quelle place(en Go) est nécessaire d'avoir pour faire tourner le LLM de mistral?

[nicolasg.]

hello, super la vidéo, donc avec ce tuto on peut utiliser mistral sur python ?
;)

[lsmpascal]

Et sur un MacBook Pro 2020 Intel, la procédure est la même ?
Merci.

[fredrichstrasse]

J'utile LLM Studio qui tourne bien sur mon Macbook M2 (32)