TensorRT Nvidia 2x | Automatic1111 | Stable Diffusion

С помощью TensorRT расширения и с обновленными драйверами от Nvidia мы можем получить двукратное ускорение при генерации и апскейле (увеличении) изображения с SDXL моделями и +50% к скорости при генерации и апскейле с моделями sd 1.5 в Automatic1111 (Stable Diffusion).

Промокод ( минус 10%): comfy24

*Меню:*
00:00 - Вступление
02:48 - Обновляем драйвер Nvidia
03:56 - Устанавливаем сборку Automatic1111 с TensorRT
06:38 - Вид сборки Automatic1111
07:59 - Вкладка TensorRT
09:05 - Генерируем Unet модель для sd 1.5 в TensorRT
11:04 - Тестируем скорость
12:51 - Генерируем Unet модель для SDXL в TensorRT
14:09 - Ошибка при обучении. В чем проблема. Что делать.
15:18 - Сравниваем скорость на SDXL с Unet моделью от TensorRT.
17:12 - Как использовать LORA с Unet моделью.
17:35 - Как настроить сборку Automatic1111. Добавляем ESRGAN, Textual Inversion, Lora и Extension (расширения) из моей сборки. Файл STYLES.CSV. Скачать можно в Boosty.
20:32 - Устанавливаем REACTOR. Библиотека InsightFace без установки Visual Studio.
22:29 - SDXL Styles с моими стилями.
25:33 - Где искать все файлы из видео.

[MonokularMonokular]

"ссылку на сайт с драйверами я оставлю в бусти" чего???? а ссылку на сайт гугла или яндекса где искать? тоже на бусти? :))

[eluiden]

Это находка! Спасибо большое за инструкцию и разъяснение, дружище. Попробую накатить на свою 3060 ti.

[wiwwiw]

Ждем когда это TRT введут при обновлении Автоматика 1, 7

[VladislavKusmin]

Интересно, спасибо, протестю вечером. Пригодится куча видеопамяти и на одиночных картинках наконец

[K-A_Z_A-K_S_URALA]

когда он вышел я установил на ковырял и все сломал))) так что лучше ждать когда он будет врезан в 1111) за видео спасибо

[vandinhvost]

I want ask : Will you choose RTX 4000 ADA or RTX 4080 for Stable Diffusion ? thank you

[дмитрийандрианов-иш]

после установки нет вкладки TenzorRT, как исправить?

[ruslikan]

Блин для разнообразных SD надо уже терабайтный ссд брать)

[bonce]

Спасибо за обзор. Вопрос в том что делать тем кто использует не одну предоставленную SDXL модель а множество, в зависимости от задачи. С конвертацией модели под плагин тоже бубны. Хотя конечно рендерит гораздо быстрее. По хорошему на сегодня, лучше использовать это как лору в ComfyUI. Просто, быстро и сердито )

[IluaSud]

К сожалению после установки не появилась вкладка TensoRT, в SD Unet тоже ничего нет. Видяха 3060, к слову в расширениях TensorRT стоит. Пробовал до этого на обычную сборку ставить, в итоге куча ошибок.

[peterq]

Я видимо из тех счастливчиков, кому повезло установить TRT в уже установленный А1111 и ничего не сломать. Но, конечно же, предварительно сделал бекап. :)
Делал по мануалу из Гитхаба.

[AGvfx]

Эта штука валит систему при запуске. И проблема явное не в системе, железо всё новое, с другим софтом работает идеально.

[ДмитрийНикитин-жч]

После установки нет вкладки TensorRT, установился без ошибок, видеокарта RTX4070, может какой-то баг?

[soratniks]

В папке автоматика запустите командную строку.
затем запустите эти команды:
venv\Scripts\activate
python -m pip удалить -y nvidia-cudnn-cu11
у меня заработало, только не эта сборка, я поставил из гитхаба.

[Shuniyata]

5:12 Если ткнуть на название папки, то можно скачать всю папку целиком.

[GeGe-ggzt]

круто..! спасибо. а в 1.5 эта штука работает только с текст ту имедж? без инпейнтинга? то есть в инпейнте все будет медленно как обычно, верно?

и еще вопрос, правильно ли я понял, что если хочу быструю модель например делиберет, но мне надо будет ее тренить как у вас в видео и тода она станет быстрой?

[valerkakushal]

Работает только на картах RTX. Зачем устанавливать nvidia experience? Если можно скачать просто драйвер с сайта?
+ Для тех кто захочет самостоятельно установить: sdxl работать не будет на а1111 1.6, нужно перейти на тестовую ветвь a1111 в гитхаб

[CreAtoR.]

3060 12гб - думаю хватит, ставлю уже😅😁

[ЕвгенийВладимиров-лк]

Сломался при обновлении до 1.8 как починить?

[EvgenyCh-thdc]

Работает уже давно все это в автоматике, ошибки при старте вылетают но все пашет, но и на 4090 никаких 2.5 руз нет, 70% в среднем для XL