Личный GPTchat на локальном компьютере: установка и использование GPT4ALL от Nomic AI

В этом видео я провожу вас через процесс установки нового большого языкового модуля GPT4ALL на ваш локальный компьютер.
Эта модель предоставлена замечательными людьми из Nomic AI, продвигая миссию открытых исходников для LLM. GPT4ALL обучен с использованием той же техники, что и Alpaca, являющаяся помощником-стилем большого языкового модуля с ~800 тыс. поколений GPT-3.5-Turbo на основе LLaMa.
На мой взгляд, он работает даже лучше, чем Alpaca и обладает очень высокой скоростью. В основном это как ChatGPT на вашем локальном компьютере. Простота установки. Nomic AI также был любезен, чтобы добавить веса в дополнение к квантовой модели.
### Основные моменты
- 💻 GPT4ALL от Nomic AI - языковая модель, которую можно установить на свой компьютер.
- 📈 Модель может быть квантована и предоставляет хорошую производительность.
- 🆓 Это абсолютно бесплатно на данный момент.
- 📚 Модель может быть использована для обработки естественного языка.
- 🚀 Установка модели проста и может быть выполнена шаг за шагом.
- 🎥 Видео также показывает примеры реального использования модели.
- 🔧 Никакого высококлассного оборудования не требуется для установки модели.

P.S. Если вы не знаете как устанавливать, то просто задавайте вопросы ChatGPT. Может сразу ему скопировать данные из README.md

[ojekkringevideo]

Это правда, что эта нейронка без ограничений моральной и цензуры?

[romanmed]

тут главный вопрос в актуальности моделей и скоости ответов.

[Kalandrill]

Ссылку на оригинал предоставить не подумал?

[nikolaydd]

Надо оригинал понижать до 20%, иначе звук превращается в кашу

[romanbolgar]

По вашим видео ничего не получается. Но другие не нахожу. В первую очередь, потому что я привык работать проще под Windows. Там достаточно часто одного нажатия на кнопку и всё запускается В линуксе надо писать какие-то пути в консоли. Вторая причина что я не могу найти полного гайда. Кругом упускают какую-то деталь и уже, естественно, ничего не работает. Ваше видео не исключение. Хотелось бы скачать какую-то модель и до обучить. Купил б/у видеокарту AMD 8 ГБ Уже не помню модель. Старенькая, но надеялся на ней получится. Теперь спешу или отдавать или всё-таки попробовать. Пока не удаётся подключить даже готовую модель. Думаю, для того чтобы добыть не обязательно иметь очень сильный компьютер. Да обучить это не делать заново, а просто подкорректировать веса. Почему на stable De Fusion есть разные Лоры Но голосовым чатом до обучения почему-то до сих пор не делают. Или я не могу найти...