VPS і сервери · 8 хв

Оренда GPU-сервера для ComfyUI: Stable Diffusion і FLUX

ComfyUI на виділеному GPU-сервері запускає Stable Diffusion і FLUX без черг і без оплати за кожне зображення: встановіть драйвер NVIDIA, поставте ComfyUI у віртуальне середовище Python і відкривайте інтерфейс через SSH-тунель, а не через відкритий в інтернет порт. У 96 ГБ відеопам’яті FLUX.1 [dev] у повній точності вміщується з великим запасом.

Що знадобиться

У всіх трьох GPU-серверах стоїть та сама карта, NVIDIA RTX PRO 6000 Blackwell Max-Q, 96 GB GDDR7. Відрізняється те, що навколо неї:

DS-G1 (Intel Core Ultra 7 265, 128 ГБ RAM, 2 × 1.92 TB NVMe, RAID 1) — ComfyUI для однієї людини чи невеликої команди вистачить із запасом. Від $1550 на місяць.
DS-G2 (512 ГБ RAM) — коли на тій самій машині працюють й інші задачі, наприклад LLM поруч із генерацією зображень.
DS-G3 (4 × 3.84 TB NVMe, RAID 1) — для великої бібліотеки чекпоінтів і LoRA або для їх навчання.

Сервер видається з чистою Ubuntu 24.04 або Debian 12. Спершу захистіть його, як у чек-листі безпеки VPS: кроки ті самі.

1. Драйвер NVIDIA і перевірка

Картам Blackwell потрібен свіжий драйвер із відкритими модулями ядра. Репозиторій NVIDIA надає його для обох систем:

# ubuntu2404 або debian12
DISTRO=ubuntu2404
apt update && apt install -y wget linux-headers-$(uname -r)
wget https://developer.download.nvidia.com/compute/cuda/repos/$DISTRO/x86_64/cuda-keyring_1.1-1_all.deb
dpkg -i cuda-keyring_1.1-1_all.deb
apt update && apt install -y nvidia-open
reboot

Після перезавантаження:

nvidia-smi

Ви маєте побачити карту приблизно з 96 ГБ пам’яті. «CUDA Version» там — максимальна версія, яку підтримує драйвер. CUDA Toolkit встановлювати не треба: PyTorch приносить власні бібліотеки CUDA.

2. Встановлення ComfyUI у venv

Запускайте його від окремого користувача, не від root:

apt install -y git python3-venv python3-dev
adduser comfy
su - comfy
git clone https://github.com/Comfy-Org/ComfyUI.git
cd ComfyUI
python3 -m venv venv && . venv/bin/activate
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu128
pip install -r requirements.txt
python -c "import torch; print(torch.cuda.is_available(), torch.cuda.get_device_name(0))"

Останній рядок має вивести True і назву карти. Для Blackwell потрібен PyTorch, зібраний під CUDA 12.8 або новішу, звідси cu128.

3. Моделі та де їх зберігати

Моделі лежать у ~/ComfyUI/models/: чекпоінти SD 1.5 і SDXL — у checkpoints/, FLUX — у diffusion_models/, text_encoders/ і vae/, LoRA — у loras/. Доступ до FLUX.1 [dev] обмежений: спершу прийміть ліцензію на Hugging Face й увійдіть із токеном.

pip install -U huggingface_hub
hf auth login
hf download black-forest-labs/FLUX.1-dev flux1-dev.safetensors --local-dir models/diffusion_models
hf download black-forest-labs/FLUX.1-dev ae.safetensors --local-dir models/vae
hf download comfyanonymous/flux_text_encoders clip_l.safetensors t5xxl_fp16.safetensors --local-dir models/text_encoders

Це близько 35 ГБ лише на FLUX, чекпоінт SDXL додасть іще приблизно 7 ГБ. Зважте: ваги FLUX.1 [dev] мають некомерційну ліцензію, а FLUX.1 [schnell] поширюється під Apache 2.0. Моделі завжди можна завантажити знову, а ваші воркфлоу й готові зображення — ні: копіюйте user/ і output/, резервні копії — ваша відповідальність.

4. Запуск за SSH-тунелем

У ComfyUI немає авторизації. Тримайте його на 127.0.0.1 (це значення за замовчуванням) і запустіть як службу. Створіть від root файл /etc/systemd/system/comfyui.service:

[Unit]
Description=ComfyUI
After=network-online.target

[Service]
User=comfy
WorkingDirectory=/home/comfy/ComfyUI
ExecStart=/home/comfy/ComfyUI/venv/bin/python main.py --listen 127.0.0.1 --port 8188
Restart=on-failure

[Install]
WantedBy=multi-user.target

systemctl daemon-reload && systemctl enable --now comfyui

На своєму комп’ютері відкрийте тунель і перейдіть у браузері на http://localhost:8188:

ssh -N -L 8188:127.0.0.1:8188 deploy@203.0.113.10

Про ключі та SSH-клієнти — у статті про підключення по SSH.

Якщо щось не працює

nvidia-smi не може зв’язатися з драйвером. Встановилися пропрієтарні модулі замість відкритих, або не було перезавантаження. Поставте nvidia-open і перезавантажтеся.
torch.cuda.is_available() повертає False або «no kernel image is available». Встановилася CPU-збірка PyTorch або збірка під стару CUDA. Перевстановіть його з індексом cu128.
Порт видно ззовні. ss -tlnp | grep 8188 має показувати 127.0.0.1:8188, а не 0.0.0.0.
Кастомні ноди. Це код на Python із повним доступом до сервера. Встановлюйте лише те, чому довіряєте.

GPU-сервери збираються під замовлення й готові через 1–3 робочі дні після передоплати. Хочете запускати на тій самій карті й LLM? Подивіться, що вміщується у 96 ГБ.

Замовити DS-G1