Offline, gratis und MIT CODE | GPT4All und Python

Lokal. Gratis. Aktive Community. Und vor allem open. Das hört sich spannend an.

Hier die Links:

* *Meine Website mit allen anderen Kanälen und Newsletter* *:

_Discord:_

_Unterstützt mich - Danke!:_

[mojitoism]

Super Video, danke! Wäre sehr interessant wie man das Teil:
a) selbst mit eigenen Unternehmensdaten nachtrainieren kann
b) Die Antworten direkt auf deutsch übersetzen kann

[chriswatts]

Was wirklich sehr spannend ist, zeigt sich in der neuen Funktion, in der man eigene Verzeichnisse einbinden kann und Dokumente durchsuchen lassen kann. Ich habe groovy und snoozy so 20 pdfs reingeworfen und in wenigen Sekunden wird eine Anfrage korrekt beantwortet inklusive des Verweises auf das Dokument. Dafür das ich diese Tests mit ner 3060 12GB mache war ich wirklich erstaunt das es relativ schnell ging.

[ergius]

Das wäre der Hammer. Ich habe über 20 Jahre PDF Dokumente auf'm Rechner liegen. Es ließe sich ein Privater Bibliothekar für meine Papierberge Programmieren. Oder allgemein sind solche Anwendungsfälle hochinteressant für Mittelständischen Unternehmen als DMS-System....

[MeinDeutschkurs]

Sehr schön. Funzt im Prinzip wie bei openAI. Toll, dann muss man die msg-Map nicht anpassen.

Könnte man nicht mit dem HTTP-Server workarounden?

[easypy]

Werd ich mir aufjedenfall mal anschauen :)

[m.z.]

Also ich finde das Potential was KI, GPT und LLMs mit sich bringen super spannend. Man gibt ein Problem ein und man erhält innerhalb webiger Minuten dann die Lösung. Jede erste Lösung ist auch erstmal ein Lösungsansatz und muss immer noch angepasst werden.

Mein Problem ist, das mein Englisch nicht das Beste ist und gerade bei Lernvideos fällt es mir umso schwerer englische Videos teilweise zu verstehen.

Es gibt tausende Videos in unterschiedlochen Sprachen, es gibt mittlerweile recht gut klingende Synchro-KIs. Kann man nicht daraus eine neue Art der Übersetzung entwickeln, also tatsächlich die Sprache im Video analysieren daraus Text generieren, diesen übersetzen und eine KI-Stimme in der "neuen" Sprache darübersetzen?
So könnten auch zum Beispiel deutsche Videos für ein breiteres Publikum interessant werden. Denn am besten lernt man in seiner Muttersprache, oder geht es nur mir so? Sollte doch eigentlich möglich sein oder?

[r.a.]

Cooles Video. Mich würde interessieren, wie man ein eigens Modell programmieren kann? Wie kann ich GPT4All mit meinen eigenen Daten trainieren? Welches Format müssen meine Daten haben?

[RDR_]

Hallo,

Vielen Dank für das Video. Wie immer war es hervorragend! 😊
Ich frage mich gerade, ob es möglich ist, die snoozy Variante (oder eine andere Variante) auf einem externen Speicher wie einem USB-Stick herunterzuladen und zu verwenden. Mein Mac hat nur sehr wenig Speicherplatz, und 7 GB sind ziemlich viel.

Vielen Dank im Voraus für deine Hilfe!

Viele Grüße

[ergius]

Bei mir auch, lief weder auf Win10 noch auf einem Linux..., und mein Mac ist zu alt. Aber werde Updaten (MacOS) die Tage...

[jonathan-._.-]

was hast du lokal für RAM ? + kann man das theoretisch auch auf gpu laufen lassen ?

[michaelmueller]

Sind nicht die Training/Trainingsdaten das wichtigste?
Ich versteh nicht so 100% das Konzept. Wenn es lokal antrainiert werden muss und die Terabyte an Inputmenge + Prozessorleistung fehlen, bringen die reinen Algorithmen auch nicht soviel.

[mircoblitz]

Danke für das Video, aber unschöne schnittfehler zum ende hin.

[Timeoxk]

Kurzer Hinweis: Die API hat sich vor kurzem geändert. Dein Code funktioniert nicht mehr, so sieht der aktualisierte Code aus:

import gpt4all

gpt =

output = gpt.generate("Create a recipe for banana frauppucino")

print(output)