FLUX.2 Klein 9B: локальный воркфлоу в ComfyUI

Коротко: быстрее всего запустить FLUX.2 Klein 9B локально через ComfyUI, и для этого нужны три файла: FP8-версия диффузионной модели от Black Forest Labs, текстовый энкодер Qwen3 8B и VAE от FLUX.2. Дистиллированный чекпоинт работает на 4 шагах с CFG 1.0 и даёт максимальную скорость. Чекпоинт Base требует 20–50 шагов и CFG около 4–5, зато даёт больше разнообразия и подходит для обучения LoRA. Веса 9B распространяются под FLUX Non-Commercial License, поэтому прежде чем встраивать саму модель в платный продукт, проверьте условия лицензии.

Если не хочется возиться с видеокартой, драйверами и файлами моделей, облачные модели FLUX.2 Pro, Flex и Max на APIMart закрывают те же задачи — генерацию по тексту и редактирование по референсам — через один API. Саму Klein APIMart не размещает: это руководство посвящено запуску Klein на вашей машине и показывает, в каких случаях облачная FLUX.2 проще.

Главное

• Black Forest Labs выпустила FLUX.2 Klein 15 января 2026 года в размерах 4B и 9B, каждый — в виде дистиллированной модели на 4 шага и недистиллированной Base (анонс BFL).
• Klein 9B объединяет flow-трансформер на 9 млрд параметров с текстовым энкодером Qwen3 8B и, согласно карточке модели на Hugging Face, требует около 29 ГБ VRAM в полной точности.
• Дистиллированная 9B работает на 4 шагах с guidance 1.0; в примере для Base 9B указано 50 шагов и guidance 4.0, а шаблон ComfyUI для 9B text-to-image использует 20 шагов и CFG 5.
• Оба чекпоинта 9B выпущены под FLUX Non-Commercial License, оба чекпоинта 4B — под Apache 2.0.
• По данным BFL для видеокарт RTX, веса FP8 снижают потребление VRAM до 40%, а NVFP4 — до 55%.
• Одна модель Klein умеет генерировать по тексту, редактировать по одному и нескольким референсам; в ComfyUI воркфлоу редактирования добавляет в тот же граф узлы ReferenceLatent.

FLUX.2 Klein в одной таблице

Источники: анонс BFL, карточка Klein 9B, карточка Klein Base 9B, карточка Klein 4B и руководство ComfyUI по Klein.

Какую версию Klein скачать?

Дистиллированная или Base

Дистиллированные чекпоинты сжаты по числу шагов до 4. Именно поэтому Klein такая быстрая: по словам BFL, семейство генерирует или редактирует изображение быстрее чем за 0,5 секунды на современном железе, а команда ComfyUI намерила около 1,2 секунды от начала до конца для дистиллированной 4B на RTX 5090.

Чекпоинты Base не дистиллированы. Им нужно гораздо больше шагов, но BFL отмечает у них большее разнообразие результатов, и именно их стоит брать для дообучения и тренировки LoRA. В карточке Base 9B модель названа идеальной «для дообучения, тренировки LoRA, исследований и собственных пайплайнов, где контроль важнее скорости».

4B или 9B

9B — флагман линейки Klein; BFL утверждает, что она не уступает моделям в пять раз крупнее или превосходит их. 4B — самый доступный вариант: она помещается примерно в 13 ГБ VRAM, что по оценке BFL соответствует RTX 3090 или 4070 и выше. Если у вашей видеокарты меньше 24 ГБ, начните с воркфлоу 4B или с весов 9B в FP8 и советов по экономии VRAM ниже.

Лицензия: что можно и что нельзя

Этот момент большинство гайдов по локальному запуску пропускает. Klein 4B и Base 4B распространяются под Apache 2.0, которая допускает коммерческое использование. Klein 9B и Base 9B — под FLUX Non-Commercial License. По этой лицензии модель и производные от неё можно использовать только в некоммерческих целях, а коммерческое или продакшн-использование модели прямо исключено. При этом та же лицензия говорит, что BFL не претендует на права на результаты генерации и что их можно использовать в любых целях, в том числе коммерческих, кроме прямо запрещённых — например, для обучения конкурирующей модели.

На практике: эксперименты, исследования и личные проекты на 9B — без проблем. Чтобы запускать 9B внутри платного продукта или продакшн-пайплайна, нужна коммерческая лицензия BFL (bfl.ai/licensing); альтернатива — перейти на 4B под Apache или на облачную FLUX.2. Это не юридическая консультация, поэтому прочитайте текст лицензии сами.

Подготовка: железо, софт и доступ

Видеокарта и память

BFL также сообщает, что FP8 работает до 1,6 раза быстрее, а NVFP4 — до 2,7 раза быстрее; замеры сделаны на RTX 5080 и 5090 при 1024x1024.

Версия ComfyUI

Klein использует новые узлы FLUX.2, например Flux2Scheduler и EmptyFlux2LatentImage. В документации ComfyUI сказано: если шаблонов Klein нет или узлы не загружаются, ваша установка устарела, и рекомендуется последняя (Nightly) сборка. Desktop-версия может отставать от основного релиза, так что сначала обновитесь, а уже потом ищите другие причины.

Доступ на Hugging Face

Репозитории 9B закрыты (gated). Войдите в Hugging Face, откройте репозиторий Klein 9B FP8, примите лицензию и Acceptable Use Policy, затем создайте токен с правом чтения для скачивания из командной строки.

Шаг 1. Скачайте файлы модели

Руководство ComfyUI перечисляет для воркфлоу 9B следующие файлы:

Для начала хватит одной диффузионной модели: дистиллированной — ради скорости или Base — если планируете обучать LoRA.

export HF_TOKEN=hf_xxx

curl -L -H "Authorization: Bearer $HF_TOKEN" \
  -o ComfyUI/models/diffusion_models/flux-2-klein-9b-fp8.safetensors \
  https://huggingface.co/black-forest-labs/FLUX.2-klein-9b-fp8/resolve/main/flux-2-klein-9b-fp8.safetensors

curl -L -o ComfyUI/models/text_encoders/qwen_3_8b_fp8mixed.safetensors \
  https://huggingface.co/Comfy-Org/flux2-klein-9B/resolve/main/split_files/text_encoders/qwen_3_8b_fp8mixed.safetensors

curl -L -o ComfyUI/models/vae/flux2-vae.safetensors \
  https://huggingface.co/Comfy-Org/flux2-dev/resolve/main/split_files/vae/flux2-vae.safetensors

В итоге структура папок должна выглядеть так:

ComfyUI/
└── models/
    ├── diffusion_models/
    │   └── flux-2-klein-9b-fp8.safetensors
    ├── text_encoders/
    │   └── qwen_3_8b_fp8mixed.safetensors
    └── vae/
        └── flux2-vae.safetensors

Не смешивайте энкодеры разных размеров: воркфлоу 4B использует qwen_3_4b.safetensors, а воркфлоу 9B — энкодер Qwen3 8B.

Шаг 2. Соберите воркфлоу text-to-image

Проще всего начать со встроенного шаблона. В ComfyUI откройте браузер шаблонов и загрузите Flux.2 Klein 9B Text to Image (image_flux2_text_to_image_9b). JSON шаблона лежит в открытом репозитории Comfy-Org workflow_templates, так что его можно изучить до запуска.

Узлы графа

Штатный шаблон 9B загружает чекпоинт Base с 20 шагами и CFG 5. Если переключить UNETLoader на дистиллированный файл, поставьте в Flux2Scheduler 4 шага, а в CFGGuider — 1.0: так указано в карточке дистиллированной модели и в дистиллированном шаблоне редактирования ComfyUI. С настройками от Base дистиллированная модель лишь тратит время и может «пережечь» картинку.

Рабочие настройки

Держите ширину и высоту в Flux2Scheduler синхронными с размером латента. Официальные шаблоны берут оба значения из одних и тех же полей ширины и высоты — повторите эту схему в своём графе или при переходе на неквадратный формат.

Промпт для проверки пайплайна

Klein хорошо понимает естественный язык, поэтому пишите промпт полными предложениями: объект, обстановка, свет и текст, который нужно отрисовать:

A vintage motorcycle parked outside a 1950s roadside diner at dusk, neon sign reading "OPEN LATE", wet asphalt reflecting pink and teal light, 35mm photo, shallow depth of field

Если первое изображение появилось за несколько секунд и надпись на вывеске читается, установка работает. Больше идей по структуре промптов, применимых к моделям FLUX в целом, — в нашем руководстве по промптам для FLUX 3.

Шаг 3. Соберите воркфлоу редактирования

Для редактирования Klein использует ту же модель, так что отдельный чекпоинт в духе Kontext не нужен. В ComfyUI есть два шаблона редактирования для 9B: image_flux2_klein_image_edit_9b_distilled и image_flux2_klein_image_edit_9b_base.

Чем отличается граф редактирования

Латент референса подключается и к позитивному промпту, и к обнулённому негативному кондиционированию, после чего оба идут в CFGGuider. Поскольку GetImageSize задаёт размеры для EmptyFlux2LatentImage и Flux2Scheduler, результат сохраняет пропорции первого референса.

Редактирование по одному референсу

Загрузите одно изображение и опишите изменение, а не всю сцену. Дистиллированный шаблон редактирования использует 4 шага и CFG 1 — с этих же значений стоит начинать и собственные правки.

Change the jacket to deep red leather, keep the face, pose, background and lighting unchanged

Редактирование по нескольким референсам

Для двух и более изображений шаблон последовательно подключает по одному ReferenceLatent на каждое изображение — и на позитивной, и на негативной ветке. В промпте ссылайтесь на изображения по порядку:

Place the white handbag from image 2 on the woman's shoulder in image 1, match the soft window light of image 1

В документации BFL для Klein через API указано до 4 референсов (обзор FLUX.2); в локальном графе каждый дополнительный референс — это ещё и больше памяти и более медленная генерация.

Решение проблем и экономия VRAM

Частые ошибки и их решения

Чек-лист для слабых видеокарт

• Начинайте с чекпоинтов FP8: по данным BFL, они экономят до 40% VRAM. NVFP4 на поддерживаемых RTX даёт ещё больше.
• Берите текстовый энкодер fp8mixed, а не полноточный.
• Запускайте ComfyUI с --lowvram, чтобы части модели выгружались в оперативную память, когда VRAM заканчивается.
• Генерируйте в 1024x1024 или меньше и увеличивайте потом, вместо сэмплирования в огромном разрешении.
• Держите batch size равным 1 и сокращайте число референсов в графах редактирования.
• Если 9B всё равно не помещается: дистиллированная 4B по замеру ComfyUI уложилась в 8,4 ГБ.

python main.py --lowvram

Запуск Klein 9B через Diffusers

Если Python вам ближе графа узлов, в карточке модели есть пример для Diffusers. Нужна dev-версия библиотеки:

pip install git+https://github.com/huggingface/diffusers.git

import torch
from diffusers import Flux2KleinPipeline

pipe = Flux2KleinPipeline.from_pretrained(
    "black-forest-labs/FLUX.2-klein-9B", torch_dtype=torch.bfloat16
)
pipe.enable_model_cpu_offload()  # offloads idle parts to CPU to save VRAM

image = pipe(
    prompt="A cat holding a sign that says hello world",
    height=1024,
    width=1024,
    guidance_scale=1.0,
    num_inference_steps=4,
    generator=torch.Generator("cuda").manual_seed(0),
).images[0]
image.save("flux-klein.png")

Для Base 9B замените репозиторий на black-forest-labs/FLUX.2-klein-base-9B и задайте guidance_scale=4.0 и num_inference_steps=50, как в примере из её карточки.

Когда облачные FLUX.2 Pro или Flex удобнее

Локальная Klein отлично подходит для быстрых итераций, приватных экспериментов и работы с LoRA. Она менее удобна, когда нужны коммерческие права на модель 9B, гарантированная доступность или мощности больше одной видеокарты.

Локальная Klein 9B против облачной FLUX.2

Какую облачную модель выбрать

APIMart предоставляет три ID моделей FLUX.2 на эндпоинте /v1/images/generations: flux-2-pro — сбалансированный вариант для повседневного продакшна, flux-2-flex — когда нужно настраивать шаги и guidance (например, для постеров с большим количеством текста), и flux-2-max — максимальное качество ценой меньшей скорости. Цена зависит от уровня выходного разрешения и количества референсов; перед планированием бюджета загляните на страницу модели FLUX.2.

curl --request POST \
  --url https://api.apimart.ai/v1/images/generations \
  --header 'Authorization: Bearer <token>' \
  --header 'Content-Type: application/json' \
  --data '{
    "model": "flux-2-flex",
    "prompt": "Minimal poster with the headline SUMMER SALE and a small line reading 50% OFF",
    "resolution": "2K",
    "size": "3:4",
    "steps": 50,
    "guidance": 6.5
  }'

Вызов асинхронный и возвращает data[0].task_id. Опрашивайте GET https://api.apimart.ai/v1/tasks/{task_id}, пока status не станет completed, затем возьмите URL изображения из result.images. Для редактирования по референсам передайте до 8 публичных URL в image_urls. Продакшн-схему с повторами и хранением результатов разбираем в руководстве FLUX для разработчиков, а сравнение скорости и VRAM с другой быстрой открытой моделью — в статье Z-Image Turbo vs Flux.

Практичная гибридная схема

Многие команды отлаживают промпты и LoRA на локальной Klein, а финальные и клиентские рендеры отправляют в облачную FLUX.2. Промпты, написанные простыми описательными предложениями, хорошо переносятся между ними, так что переписывать их почти не приходится.

Часто задаваемые вопросы

Чем FLUX.2 Klein 9B отличается от Klein Base 9B?

Klein 9B дистиллирована до 4 шагов с guidance 1.0, поэтому работает почти в реальном времени. Klein Base 9B — недистиллированная базовая модель: ей нужно 20–50 шагов, зато она даёт больше разнообразия и рекомендуется как отправная точка для дообучения и тренировки LoRA.

Можно ли использовать FLUX.2 Klein 9B в коммерческих целях?

Саму модель — только по отдельному соглашению. Оба чекпоинта 9B выпущены под FLUX Non-Commercial License, которая ограничивает использование модели некоммерческими целями; коммерческие лицензии BFL предлагает на bfl.ai/licensing. В лицензии сказано, что результаты генерации можно использовать в любых целях, включая коммерческие, с некоторыми исключениями, — прочитайте её полностью. Если нужен коммерческий вариант на своём железе, Klein 4B выпущена под Apache 2.0.

Сколько VRAM нужно FLUX.2 Klein 9B?

По карточке модели — около 29 ГБ в полной точности, то есть RTX 4090 или мощнее с выгрузкой на CPU. По данным BFL, веса FP8 сокращают потребление памяти до 40%, а NVFP4 — до 55%; точная цифра VRAM для 9B в FP8 официально не подтверждена. На картах с 16 ГБ и меньше надёжнее выбрать 4B.

Какие шаги и CFG ставить в ComfyUI?

Для дистиллированной 9B — 4 шага и CFG 1.0 с сэмплером euler. Для Base 9B шаблон ComfyUI использует 20 шагов и CFG 5, а пример на Hugging Face — 50 шагов и guidance 4.0. В обоих случаях начинайте с 1024x1024.

Нужна ли Klein отдельная модель для редактирования?

Нет. Один чекпоинт Klein умеет генерировать по тексту, редактировать по одному и по нескольким референсам. В ComfyUI достаточно добавить в граф text-to-image узлы LoadImage, VAEEncode и ReferenceLatent или загрузить официальный шаблон редактирования.

Есть ли FLUX.2 Klein на APIMart?

Нет. APIMart предлагает облачные FLUX.2 Pro, Flex и Max, но не Klein. Они хорошая альтернатива, если вам проще вызывать API, чем разбираться с лицензией открытых весов, нужно до 8 референсов или нет подходящей локальной видеокарты.

Что дальше

Klein быстро развивается в сообществе: на её странице Hugging Face уже много адаптеров, дообученных версий и квантизаций. Следите за обновлениями шаблонов ComfyUI, новыми квантизованными весами и изменениями в лицензиях BFL — от этого зависит, что поместится на вашу видеокарту и что можно выпускать в продукт. Если нагрузка вырастает за пределы одной машины или нужны понятные коммерческие условия, прогоните те же промпты на облачных FLUX.2 Pro или Flex, прежде чем масштабироваться.