Иксформеры
Библиотека Xformers — это дополнительный способ ускорить создание изображений.
Для винды нет бинарников кроме одной конкретной конфигурации, но собрать можно самому.
Гайд от анонимного пользователя, хотя я думаю он для сборки под линукс:
РУКОВОДСТВО ПО СОЗДАНИЮ XFORMERS также включает в себя, как снять с себя ограничение sm86 на новый коммит voldy
- перейдите в каталог webui
источник ./venv/bin/активироватьCD репозиторийклон git https://github.com/facebookresearch/xformers.git- компакт-диски xformers
git submodule update --init --recursivepip install -r requirements.txtpip install -e .
Сборка xFormers в Windows от @duckness
Если вы используете карту Pascal, Turing, Ampere, Lovelace или Hopper с Python 3.10, вам больше не нужно собирать вручную. Удалите существующие xformers и запустите репозиторий с помощью --xformers. Будет установлено совместимое колесо.
-
Установить VS Build Tools 2022, вам нужна только
Разработка рабочего стола с C++

- Установить CUDA 11.3 (более поздние версии не тестировались), выбираем custom, нужно только следующее (интеграция с VS возможно не нужна ):

- Клонируйте репозиторий xFormers (https://github.com/facebookresearch/xformers), создайте venv и активируйте его.
git clone https://github.com/facebookresearch/xformers.git
cd xformers
git submodule update --init --recursive
python -m venv venv
./venv/scripts/activate
- Чтобы избежать проблем с получением версии процессора, установите pyTorch отдельно:
pip install torch torchvision --extra-index-url https://download.pytorch.org/whl/cu113
- Затем установите остальные зависимости:
pip install -r requirements.txt
pip install wheel
-
Поскольку CUDA 11.3 довольно старая, вам необходимо принудительно разрешить ее сборку в MS Build Tools 2022. Сделайте
$env:NVCC_FLAGS = "-allow-unsupported-compiler", если наpowershell, илиустановите NVCC_FLAGS =-allow-unsupported-compilerесли наcmd -
Наконец-то можно собрать xFormers, учтите, что сборка займет много времени (вероятно, 10-20 минут), сначала может жаловаться на какие-то ошибки, но все равно должна компилироваться корректно.
НЕОБЯЗАТЕЛЬНЫЙ совет: чтобы еще больше ускорить работу в системах Windows с многоядерными процессорами, установите ninja https://github.com/ninja-build/ninja. Шаги по установке:
- Загрузите ninja-win.zip с https://github.com/ninja-build/ninja/releases и разархивируйте
- Поместите ninja.exe в C:\Windows ИЛИ добавьте полный путь к извлеченному ninja.exe в системный PATH
- Запустите ninja -h в cmd и проверьте, отображается ли справочное сообщение.
- Запустите следующие команды, чтобы начать сборку. Он должен автоматически использовать Ninja, никаких дополнительных настроек не требуется. Вы должны увидеть значительно более высокую загрузку ЦП (40%+). ```
сборка python setup.py python setup.py bdist_wheel ```
Это сократило время сборки на ПК с Windows с процессором AMD 5800X с 1,5 часов до 10 минут. Ninja также поддерживается в Linux и MacOS, но у меня нет этих ОС для тестирования, поэтому я не могу предоставить пошаговое руководство.
-
Запустите следующее:
ш сборка python setup.py python setup.py bdist_wheel` -
In
xformersdirectory, navigate to thedistfolder and copy the.whlfile to the base directory ofstable-diffusion-webui -
In
stable-diffusion-webuidirectory, install the.whl, change the name of the file in the command below if the name is different:
./venv/скрипты/активировать
pip установить xformers-0.0.14.dev0-cp310-cp310-win_amd64.whl
- Ensure that
xformersis activated by launchingstable-diffusion-webuiwith--force-enable-xformers
Non-deterministic / unstable / inconsistent results:
Known issue. See this list on the discussion page.