ChatGPT-Klon läuft lokal auf jedem Rechner | Alpaca/LLaMA ausprobiert

Eine Sprach-KI in 4,2 Gigabyte? Wie soll das denn gehen? So:

► Befehle zur Installation: npx dalai alpaca install 7b // npx dalai serve

► Kapitelmarker:
0:00 Intro
0:57 WERBUNG: Seasonic
1:40 Warum das alles so besonders ist
6:54: Sicherheitshinweise
8:31: Wie man Dalai installiert

=== Anzeige / Sponsorenhinweis ===

=== Anzeige / Sponsorenhinweis Ende ===

► und TOTAL CRAZY auf Papier! Überall wo es Zeitschriften gibt!

► Adresse: c't Magazin / z. Hd. Jan-Keno Janssen / Karl-Wiechert-Allee 10 / 30625 Hannover

► Credits:
Konzept & Redaktion: Jan-Keno Janssen, Lukas Rumpler
Schnitt: Pascal Schewe
Host: Jan-Keno Janssen

► Kenos Bild- und Tontechnik:

► Affiliate-Links! c't 3003 ist Mitglied im Partnerprogramm von Amazon. Die Links sind Affiliate-Links, der Kaufpreis ändert sich dadurch für euch nicht.

#chatgpt #ki #llama

[ct]

Dalai ist aktuell noch online. Mal sehen, wie lange noch.

[robbiek]

Ich hab mich gestern noch mit dem thema llama und Alpaka beschäftigt und mich gefragt, wieso das von niemandem wirklich thematisiert wird. Doch jetzt direkt danach ein Video, Dankeschön!

[nevill]

Wunderbar ihr werdet immer besser bei CT!

Es freut mich sehr, dass das ganze AI thema wieder in die hände der community kommt und es alle nutzen können, ohne von zentralisierten stellen (und nicht so netten firmen) total abhängig zu sein

[Drumonymus]

Der Energievergleich mit dem einzelnen Flug war der Hammer 😂👍 das setzt den Verbrauch sehr schön ins Verhältnis und lässt ihn geradezu lächerlich gering erscheinen, wenn man überlegt, wie viele Flugzeuge heutzutage um die Welt fliegen.

[forben]

Ich begrüße diese Konkurrenz und Vielfalt auf dem "KI"-Markt sehr. Kann nicht sein dass das alles closed-source bleibt und totreguliert wird. Wenn ich auf meiner GPU einen obszönen Song generieren will, in dem Donald Trump Hillary Clinton auf dem Kopierer vernascht dann hat mir das keiner zu verbieten!

[synocx]

Vielen Dank für das super Video! 🎉 Schön, dass man hier so up to date gehalten wird. Könnt ihr ein Video machen indem ihr selbst auch ein Modell trainiert? Find ich super spannend customized Modelle zu haben! Ihr nicht auch?😅😊

[Datenschutz_Datenschutz]

Skynet incoming 😂 das ging schnell. ^^ 😁
Der Datensatz für Zuhause ist schon ziemlich nice.
Ich denke auch das hier die postiven Dinge überwiegen.
Werd da später auch mal reinschauen. Danke wie immer für eueren hervorragenden Content 😁

[testacc]

"Ja, wieder ein KI-Video"

Ruhig mehr davon ;) Gibt kaum einen Kanal, der KI auf solch unterhaltsame Weise präsentiert und trotzdem auch die Schritte mitliefert, wie man es selber installiert.

[MG-qjzh]

Gratulation zum Beitrag. Ich bin für das Gehampel schon ein bisschen zu Alt, aber der Stream war sensationell gut. Danke dafür

[roberthecht]

einfach spitze, hoch interessant sehr umfangreich. Danke f. das tolle Video.

[haraldweinreich]

Vielen Dank, das ist ja wirklich super interessant, was sich da im KI-Bereich so tut. Als ich Informatik studiert habe, konnte man davon nur träumen.

[ratiof]

Kein Wunder dass es immer KI Themen gibt, da passiert ja auch so viel! Gerne mehr davon!

[peterbauer]

Super interessantes Video, kannst Du mir auch verraten, oder mal drauf eingehen, ob ein solches Sprachmodell durch die Koversation dazulernt, oder bleibt es statisch auf dem Stand auf den es trainiert wurde bleibt? Mit anderen Worten, ob es seine Wissensbasis erweitert?

[mazthelion]

AHH das ist super spannend!. Vielen Dank für dein Video:D

[fortunato]

Mir ist gerade meine Kinnlade auf die Füße gefallen ...
MEGA! Da geht so derartig die Post ab! Man kommt ja mit dem Probieren gar nicht hinterher! Tolles Video!
Warum in der Kirche Eintritt bezahlen? Hier kommt Gott zu dir auf die Couch!

[neulich_org]

Hey vielen Dank. Auch für das errechnen der Kosten, die oftmals pauschalisiert als "teuer" definiert werden. Diese Eingrenzung auf einen Wert ist nice - danke.

[cedi]

Ich liebe deine KI Videos bitte mehr davon

[electronics.unmessed]

Eine Entwicklung hin zur lokalen KI fände ich gut, denn über diesen Weg könnte der Anwender der Herr seiner Daten bleiben. So könnte man etwa den Zugriff auf gute Bibliotheken verbessern.

[alanfenetre]

Immer auf den neusten Info Technik stand, dank c’t 3003.
Gute Arbeit.

[askschwerin]

Wie immer bestens informiert auf deinem Kanal. Danke.