Иксформеры
Библиотека Xformers — это дополнительный способ ускорить создание изображений.
Для винды нет бинарников кроме одной конкретной конфигурации, но собрать можно самому.
Гайд от анонимного пользователя, хотя я думаю он для сборки под линукс:
РУКОВОДСТВО ПО СОЗДАНИЮ XFORMERS также включает в себя, как снять с себя ограничение sm86 на новый коммит voldy
- перейдите в каталог webui
источник ./venv/bin/активировать
CD репозиторий
клон git https://github.com/facebookresearch/xformers.git
- компакт-диски xformers
git submodule update --init --recursive
pip install -r requirements.txt
pip install -e .
Сборка xFormers в Windows от @duckness
Если вы используете карту Pascal, Turing, Ampere, Lovelace или Hopper с Python 3.10, вам больше не нужно собирать вручную. Удалите существующие xformers и запустите репозиторий с помощью --xformers
. Будет установлено совместимое колесо.
-
Установить VS Build Tools 2022, вам нужна только
Разработка рабочего стола с C++
- Установить CUDA 11.3 (более поздние версии не тестировались), выбираем custom, нужно только следующее (интеграция с VS возможно не нужна ):
- Клонируйте репозиторий xFormers (https://github.com/facebookresearch/xformers), создайте venv и активируйте его.
git clone https://github.com/facebookresearch/xformers.git
cd xformers
git submodule update --init --recursive
python -m venv venv
./venv/scripts/activate
- Чтобы избежать проблем с получением версии процессора, установите pyTorch отдельно:
pip install torch torchvision --extra-index-url https://download.pytorch.org/whl/cu113
- Затем установите остальные зависимости:
pip install -r requirements.txt
pip install wheel
-
Поскольку CUDA 11.3 довольно старая, вам необходимо принудительно разрешить ее сборку в MS Build Tools 2022. Сделайте
$env:NVCC_FLAGS = "-allow-unsupported-compiler"
, если наpowershell
, илиустановите NVCC_FLAGS =-allow-unsupported-compiler
если наcmd
-
Наконец-то можно собрать xFormers, учтите, что сборка займет много времени (вероятно, 10-20 минут), сначала может жаловаться на какие-то ошибки, но все равно должна компилироваться корректно.
НЕОБЯЗАТЕЛЬНЫЙ совет: чтобы еще больше ускорить работу в системах Windows с многоядерными процессорами, установите ninja https://github.com/ninja-build/ninja. Шаги по установке:
- Загрузите ninja-win.zip с https://github.com/ninja-build/ninja/releases и разархивируйте
- Поместите ninja.exe в C:\Windows ИЛИ добавьте полный путь к извлеченному ninja.exe в системный PATH
- Запустите ninja -h в cmd и проверьте, отображается ли справочное сообщение.
- Запустите следующие команды, чтобы начать сборку. Он должен автоматически использовать Ninja, никаких дополнительных настроек не требуется. Вы должны увидеть значительно более высокую загрузку ЦП (40%+). ```
сборка python setup.py python setup.py bdist_wheel ```
Это сократило время сборки на ПК с Windows с процессором AMD 5800X с 1,5 часов до 10 минут. Ninja также поддерживается в Linux и MacOS, но у меня нет этих ОС для тестирования, поэтому я не могу предоставить пошаговое руководство.
-
Запустите следующее:
ш сборка python setup.py python setup.py bdist_wheel
` -
In
xformers
directory, navigate to thedist
folder and copy the.whl
file to the base directory ofstable-diffusion-webui
-
In
stable-diffusion-webui
directory, install the.whl
, change the name of the file in the command below if the name is different:
./venv/скрипты/активировать
pip установить xformers-0.0.14.dev0-cp310-cp310-win_amd64.whl
- Ensure that
xformers
is activated by launchingstable-diffusion-webui
with--force-enable-xformers
Non-deterministic / unstable / inconsistent results:
Known issue. See this list on the discussion page.