Итак, кастомизация SD3.5

Для обучения лоры SD3.5 Large запаситесь 24Gb VRAM

Официальный гайд

готовые лоры:
раз
два
три
———————————
Примеры ComfyUI

———————————
SD3.5-fp8 (пожатая модель)

Спионерил у @SergeyTsyptsyn

#lora #text2image #comfyui #finetuning

OneTrainer

В утилите для дообучения генераторов картинок важное обновление для владельцев слабого железа

- Обучение Flux LoRa на 6 ГБ VRAM (с разрешением 512 пикселей)

- Дообучение Flux на 16 ГБ VRAM (или даже меньше) + 64 ГБ оперативной памяти

- Дообучение SD3.5-M на 4 ГБ VRAM (с разрешением 1024 пикселя)

Lля параметра "Gradient checkpointing" устанавливаем значение CPU_OFFLOADED, затем для параметра "Layer offload fraction" - значение от 0 до 1. При более высоких значениях будет использоваться больше системной оперативной памяти вместо видеопамяти.

Использование VRAM неоптимально при обучении Flux или SD3.5-M и Layer offload fraction близком к 0,5

#finetuning #SD35 #flux #tools

diffusion-pipe

Экспериментальный тренер диффузных моделей.
Поддерживает #Flux (лоры, полный файнтюн), LTX-Video, HunyuanVideo (лоры)

Реализовано распараллеливание для моделей которые не влезают в GPU

На Винде завелось только у одного юзера, но это неточно

Лору HunyuanVideo можно тренить на картинках на 24GB VRAM

LTX-Video с таким богатым VRAM можно тренить и на видео

#lora #finetuning

SimpleTuner v1.2.2

Обновился инструмент для дообучения диффузных генераторов.

Добавлена поддержка Sana и исправлены баги с обучением SD3.5 (Large + Medium)

реддит

#finetuning

OminiControl Training

Опубликован код обучения универсального управляемого генератора изображений OminiControl

Можете обучить свой собственный OminiControl на базе #flux с любым управлением - примерка, 3D, поза или что-либо еще что придумаете.

Только запаситесь двумя NVIDIA H100, 80GB VRAM. Непонятно почему двумя, ведь столько памяти у одной H100, но по ссылке написано именно так

#finetuning #training #conditioning #text2image

FLUX Pro Finetuning API

BlackForest Labs выпустили API для дообучения #FLUX

Уверяют что результат файнтюна будет работать со всеми официальными вариантами FLUX и совместим с FLUX Tools

FLUX Finetuning Beta Guide

#finetuning #lora #api

Тренировка Lora FastHunyuan на 16ГБ VRAM

удалась реддитору, подробности по ссылке

#lora #finetuning

Демоспейс Flex.1-alpha потыркать не скачивая

Демо

#finetuning #text2image

Video Model Studio (VMS)

Интерфейс Finetrainers на gradio для тренировки видео лор в несколько кликов

Поддерживаемые модели:

LTX-Video - протестировано на инстансе A100
HunyuanVideo - теоретически должно работать из коробки с достаточной вычислительной мощностью

Код
Демо - для работы демоспейс надо скопировать и видимо взять платный GPU

Бонус - альтернатива diffusion-pipe-ui

#lora #training #finetuning #GUI

SimpleTuner v2.0

В свежем релизе инструмента - полная поддержка дообучения Flux Kontext

и еще миллион ничтяков

#finetuning #tools

SingLoRA

Cледующий шаг на пути к дешевому Файн-тюнингу моделей

Суть в том, что он использует одну матрицу вместо двух для корректировки параметров модели. Это удешевляет ее вдвое, переобучаем только 0.05 % параметров

#lora #optimization #finetuning

Drag-and-Drop LLMs: Zero-Shot Prompt-to-Weights

Метод позволяет быстро адаптировать большие языковые модели к различным задачам без необходимости их полного переобучения.

Параметры настройки генерируются за секунды на основе текстового промпта и упаковываются в LoRa

Код
Демо

#llm #lora #finetuning

LoRA Training for Qwen-Image

Ладно, интересных картинок от qwen image из коробки получить не удалось. Может с лорами она себя покажет?
Есть смельчаки-первопроходцы обучить лору?

Инструмент для обучения подогнали FlyMy.ai

А также опубликовали лору реализм

qwen-image-realism-lora

#TEXT2IMAGE #LORA #FINETUNING

WAN 2.2 LoRa training

Видео от разработчика ArtOfficial по обучению лоры #wan22

#tutorial #lora #finetuning

Дообучение gpt-oss от Unsloth

Гитхаб
Колаб
Инструкция

#finetuning #llm #assistant