DIE BESTE CHATGPT ALTERNATIVE - Kostenloser Offline Chatbot für Windows und Mac mit GPT4All

Man kann jetzt endlich einen eigenen Chatbot lokal, ohne Internet, ohne dass unsere Daten und Chats auf irgendeinen Server wandern, kostenlos und auf deutsch verwenden. Und dabei kann der Bot, was die Qualität der Antworten angeht, tatsächlich mit ChatGPT mithalten.

Die neue Version von GPT4All mit dem Wizard Modell hat das Unglaubliche geschafft. GPT3.5 Performance auf einem Laptop und niemand gehen unsere Daten etwas an. In diesem Video zeige ich Dir, wie Du den Chatbot installieren und verwenden kannst.

00:00 Intro
01:09 GPT4All herunterladen und installieren
02:53 GPT4All einrichten und Modell installieren
04:40 Test des Falcon Modells mit deutscher Sprache
06:10 Test des neuen Wizard V1.1 Modells mit deutscher Sprache
07:11 Vergleich zu GPT-3.5
07:42 Arbeiten mit eigenen Inhalten innerhalb von GPT4All
09:11 Data Lake und das Verbessern zukünftiger Modelle
09:52 Fazit und Ausblick

Videovorschläge, Feedback und Kritik kannst Du uns jederzeit in den Kommentaren mitteilen!

[andreasbiesenbach]

Danke für eure Beiträge! Immer gute und aktuelle Infos !

[rueedi]

Herzlichen Dank, eben im MacBook Pro von 2017 problemlos installiert und erstmals getestet.

[th.j.]

Vielen Dank, ich werde es gleich mal ausprobieren.

[oliverr.]

Hättest ja mal erwähnen können, dass man mehr als 16G RAM braucht, dann hätte ich mir den Download gespart. ;-) Trotzdem Danke für den Beitrag.

[Advisor.Zone-CH]

Vielen Dank für den Hinweis auf GPT4All und Eure Arbeit, die Ihr hier in den Kanal steckt.
Meine Erlebnisse bisher:
Das Downloaden war schon ein Abenteuer, weil GPT4All diesen zweimal abbrach mit einem "Status:error". Manuel dann heruntergeladen und ins richtige Verzeichnis geschoben. GPT startet dann ohne murren und knurren mit dem Wizzard v1..1
Testrechner: Surface Laptop Studio Model 1964 i7
Prozessor: 11th Gen Intel(R) Core(TM) i7-11370H @ 3.30GHz
Installierter RAM: 32 GB

Test mit der Frage: "Wer bist Du?" ergab eine sinnvolle Antwort, aber nur mit ca. 2.3 - 7 Token/s für mich noch zu langsam.

Ich behalte das Tool auf jeden Fall mal auf meinem Rechner für Norfälle und um die Entwicklung weiter zu verfolgen.

[giovannisindaco]

8:01 du kannst das Programm mit Dateien „füttern“. es ist zwar erst in der Betaphase jedoch funktioniert es super.

[MalcomJPrince]

Echt super, danke für die tolle Erklärung.

Gruß

ps: nutze ChatGPT 3.5 ab um über ein paar Ideen zu brainstormen :-)

[lutz.richter]

Traineriert GPT4All auch noch, wenn er lokal arbeitet? Welchen Datenstand hat die KI? ChatGPT ist ja nur bis Sep. 2021 trainiert.

[leventcatalbas]

Danke für das schöen Video aber sag mal, kennst du auch eine möglichkeit selbst Daten zu füttern? Es gab 'ne Seite, ähnlich aufgebaut wie ChatGPT wo man zum beispiel PDF Dateien hochladen konnte und der zog sich von dort die infos. Lief alles in Zeitlupe aber es ging. Hier 'ne möglichkeit so was zu machen?

[gioger]

In der Beschreibung steht ich muss das aus dem Quellcode erstellen weil ich mein ubuntu nicht upgraden kann (sudo apt upgrade). mit ./config geht es nicht. Wie kann ich das machen?

[aketo]

Spannend. Vielen Dank. Klasse, das auch LLMA 2 - 13B damit läuft. Wie kann man jedoch das LLM trainieren, anhand einer kleinen Geschichte, so dass diese "KI" Unterschiede "erkennt", zwischen Personen gleichen Vornamens unterscheiden kann? Finde ich sehr spannend. Wie funktioniert diese "Intelligenz"? Vielen Dank.

[produkttester.deutschland]

Danke, aber was willlst damit denn anfangen? Wo soll der Mehrwert sein?

[Lord-Helmchen]

Guter Beitrag. Können hiermit auch Plugins genutzt werden? ChatGPT Alternativen mit Plugin Nutzung suche ich bisher vergebens.

[daydream]

Ein sehr schön gemachtes Video!
Alles wurde sehr gut erklärt und und auch die Tests haben mich überzeugt...😊👍 Das gibt auf jeden Fall ein Abo! 😁😊

Bis auf wenige Ausnahmen läuft das ganze bei mir sehr gut.😊👍 Meine Technischen Daten werde ich weiter unten noch anhängen...
Was Ich jetzt noch gerne hätte, währe eine Möglichkeit eine Grafikkarte ein zu binden... Ich hab in meinem System eine Radeon rx 6700XT. Mir ist zwar bewusst, dass sich für gewöhnlich die Nvidia-Grafikkarten dafür besser eignen, trozdem denke ich, dass man mit den AMD Karten sicher auch was reißen könnte, da die Radeon Karten der aktuellen Generationen ja nicht gerade wenig auf dem Kasten haben... 🤔
Gibt es da schon eine Möglichkeit, von der hier jemand etwas weis?

Meine Technischen Daten:

Prozessor: AMD Ryzen 5 3600XT
Installierter RAM: 28GB
Mainboard: Asus Prime x570 Pro
GraKa: Radeon rx 6700XT
Betriebssystem: Windoof 10 Pro

Der Pc wird über das Netzwerk als Cloudgaming-Maschiene benutzt. Auf meinem Mac mini (M1) lief das ganze zwar auch aber bis die Antworten zu stande kamen, hat es immer ewig gedauert... 🤷‍♀🤔

Habt ihr genauere Informationen, ob dieses "offline GPT" hinsichtlich der Bearbeitungsgeschwindigkeit von einem schnelleren CPU oder Grafikbeschleuniger oder beidem profitiert?

[chronos-thegameoftime]

Leider stürzt GPT4ALL bei mir direkt ab, sobald ich mit irgendeinem Model versuche etwas zu generieren. (Programm wird Terminiert ohne jede Fehlermeldung. Systemprotokoll kein Eintrag). Ich habe einen AMD FX(tm)-8350 Eight-Core Processor 4.00 GHz mit 32 GB DDR3 RAM, Windows 10 x64 Pro. Ist es Möglich, dass die CPU nicht kompatibel ist und gibt es vielleicht eine Liste dazu? Leider konnte ich mit eigener Recherche dazu kaum stichhaltige Informationen auftreiben.
Abgesehen davon ein Super Beitrag! Vielen Dank euch!

[ternocimadh]

Gibts mittlerweile ne Möglichkeit einen Voiceassistenten ins got4all einzupflegen oder ist das mit den Dokumenten chatten immer noch das neuste Feater?

[Mission]

Sehr spannender Beitrag. Ich bin auf der Suche nach genau so einer Möglichkeit. Beispielsweise, um "ChatGPT" in einem Intranet zur Verfügung zu stellen. Allerdings wäre es dann super, wenn man das Modell mit den Inhalten des Intranet zusätzlich trainieren könnte. Gibt es solche Möglichkeiten?

[markusmuller]

Guten Morgen, ich habe einen Windows Laptop mit weniger als 16 RAM. Dadurch konnte ich nur GPT-4, GPT 3.5-Turbo und Mini Orca (Small) installieren. Bei den GPT`s kam folgende Fehlermeldung: ERROR: 2 ChatGPT responded with error code "429-Unbekannter Fehler" {
"error": { "message": "You exceeded your current quota, please check your plan and billing details.", "type": "insufficient_quota", "param": null, "code": "insufficient_quota" } }

Hoffe die Info hilft euch weiter. Danke für eure guten Videos. P.s. Vielleicht macht es Sinn ein Video über Hardware minimum requirements zu machen ?

[peterherz]

Vielen Dank für den Beitrag! Ich habe ein paar Fragen. Habe GPT4All installiert (neuer, sehr schneller Rechner mit 1000 Mbit Internetgeschwindigkeit). Die Schriftgröße ist unheimlich klein und lässt sich nicht vergrößern. Die Geschwindigkeit der Darstllung der Antwort ist extrem langsam, So, als ob ich mit 2 Fingern tippe. Eine Zeile braucht über eine Minute. Betrifft den Wizard. Kann man das ändern?