HVideoTool

Десктопная утилита с графическим интерфейсом для обнаружения уже наложенной цензуры (мозаика, пикселизация, размытие, чёрные плашки) на картинках. Работа организована в проекты: создаёте проект (или раскадровываете ролик кнопкой «Создать из ролика…») — приложение прогоняет каждый кадр через детектор, обводит найденные области и показывает подробный список того, что нашлось на каждой картинке. Отобранные кадры можно перемещать в избранное (для сбора датасета/ примеров).

Проект

Проект — это папка со всем необходимым:

МойПроект/
├── project.json        # настройки проекта (детектор, модель, порог, движок) + метаданные
├── frames/             # картинки проекта
├── detections.json     # кэш детекций
└── collections/        # коллекции; «Избранное» — папка для отобранных кадров

Настройки (детектор / модель / порог / движок восстановления) хранятся внутри проекта — каждый проект помнит, как его настраивали. Глобальные настройки (~/HVideoTool/settings.json) задают лишь значения по умолчанию для новых проектов и список недавних. При запуске без аргументов автоматически открывается последний проект.

Инструмент для просмотра, отладки детекции и отбора кадров. Видео раскадровывает через ffmpeg (ставится автоматически с пакетом imageio-ffmpeg; системный ffmpeg из PATH используется в приоритете), либо через OpenCV.


Возможности

  • Проекты: «Создать проект…», «Открыть проект…», «Импортировать папку как проект…» (копирует картинки из обычной папки в frames/ нового проекта) и подменю «Недавние проекты».
  • Создать из ролика… — раскадровка видео в новый проект (кадры в frames/). Два режима: только ключевые кадры (в разы быстрее — декодируются лишь I-кадры) и каждый N-й кадр; опциональный даунскейл (меньше файлов и нагрузки на диск/АВ). ffmpeg идёт в комплекте (imageio-ffmpeg); системный ffmpeg из PATH — в приоритете.
  • Избранное: «★ В избранное» (Ctrl+M) перемещает выбранные кадры в папку collections/Избранное внутри проекта — для отбора кадров (мультивыбор поддерживается). Папка создаётся автоматически.
  • Картинки проекта (.jpg/.png/.bmp/.webp/.tif) — список слева.
  • Картинка с обводкой контуром найденных областей — по центру.
  • Подробная таблица детекций справа: тип, уверенность, bbox, число точек полигона. Выбор строки подсвечивает конкретную область на картинке.
  • Ленивая детекция: картинка прогоняется по двойному клику / кнопке «Рассчитать кадр», результат кэшируется.
  • Кэш детекций сохраняется в проект (см. ниже) — при повторном открытии проекта результаты подхватываются, не нужно считать заново.
  • Три режима пересчёта:
    • «Детектировать все»дозапуск: считает только ещё не посчитанные кадры (можно прерывать и продолжать);
    • «Все заново» — полная регенерация: очищает кэш и пересчитывает весь проект;
    • «Рассчитать кадр» (Space / двойной клик) — всегда пересчитывает текущий кадр.
  • Кнопка «■ Стоп» (Esc) отменяет любую текущую длинную операцию (детекция всего проекта, раскадровка ролика, импорт папки, восстановление DeepMosaics). Уже посчитанное при отмене сохраняется в кэш.
  • Навигация под картинкой: ◀ ▶ (,/.), ползунок-перемотка и переходы к кадрам с детекцией ◀/▶ ([/]). На ползунке бирюзовыми метками отмечены кадры с найденной цензурой; строки списка подсвечиваются цветом (🔴 цензура найдена, 🟢 проверено и чисто).
  • Детекция — через YOLO, несколько моделей сразу (как ADetailer): сложите веса в models/yolo/<категория>/ (например models/yolo/mosaic/, models/yolo/face/) и отметьте нужные галочками в меню «Модели» тулбара. При расчёте кадра прогоняются все выбранные модели, их детекции попадают в общую таблицу и рисуются оверлеем — цвет по категории-папке. Порог уверенности — в тулбаре.
  • Индикатор устройства в строке состояния: « CUDA» или «🖥 CPU». Клик по «CPU» показывает диагностику (почему GPU не задействован) и команды установки PyTorch с CUDA. Если CUDA недоступна, YOLO и DeepMosaics автоматически работают на CPU (медленнее, но без ошибок).

Кэш детекций

Результаты детекции сохраняются в корне проекта в файл detections.json. Это даёт:

  • возобновление между сессиями — открыли проект повторно, готовые детекции сразу на месте (метки на ползунке и подсветка строк восстанавливаются);
  • дозапуск — «Детектировать все» пропускает уже посчитанные кадры;
  • отказоустойчивость — при отмене/закрытии посчитанное не теряется.

Кэш помечен «удостоверением» — набором выбранных моделей + conf/imgsz. Если открыть проект с другим набором моделей, чужой кэш не загружается (чтобы не выдавать старые результаты за текущие). Полностью пересчитать — кнопка «Все заново».

Ключи внутри файла — имена файлов, поэтому кэш переживает перемещение/ переименование проекта. Хранится результат одного детектора за раз: посчитали одним, переключились на другой и посчитали — кэш перезапишется.

Восстановление (расцензуривание)

Кнопка «Расцензурить кадр» восстанавливает найденные области на текущем кадре, «Показать оригинал/результат» переключает вид, «Сохранить результат» пишет <имя>_restored.jpg рядом с кадром. Движок выбирается в меню Файл → Движок восстановления….

Пакетный прогон по диапазону. Кнопки «Расцензурить все» (дозапуск — пропускает уже сделанные) и «Все заново» обрабатывают все кадры проекта в фоне и пишут результаты в папку restored/ проекта (имена кадров сохраняются; папка держится отдельно от frames/, чтобы результаты не попадали обратно в список кадров). Прогресс, отмена («■ Стоп») и предпросмотр текущего кадра работают как при детекции.

Доступны два семейства движков: DeepMosaics (восстанавливает мозаику) и diffusion-inpaint (SwarmUI) (перерисовывает область заново). DeepMosaics — по умолчанию; код встроен (vendored, GPL-3.0; ставить отдельно не нужно — нужны только веса и желательно GPU NVIDIA/CUDA). Три движка в списке:

  • DeepMosaics — картинка — реальное генеративное удаление мозаики покадрово.
  • DeepMosaics — видео (BVDNet)временно́й движок: использует соседние кадры (окно ±2 кадра с шагом 3) и собственный предыдущий результат для когерентности на роликах. Из-за рекуррентности обрабатывает непрерывный диапазон по порядку — т.е. запускайте его через «Расцензурить все» (одиночный «Расцензурить кадр» сведётся к окну из одного кадра). Нужна видеомодель clean_youknow_video.pth.
  • Diffusion-inpaint (SwarmUI)перерисовывает область цензуры заново диффузионной inpaint-моделью по маске из YOLO-детекций и промпту (не восстанавливает оригинал!). Лучше всего для чёрных плашек / сплошной заливки, где DeepMosaics бессилен. Покадрово → на роликах будет мерцание. См. «Настройка SwarmUI» ниже.

На аниме качество DeepMosaics ограничено (модели обучены на реальном видео).

Настройка DeepMosaics

Нужны только веса — положите их в models/deepmosaics/ (папка в .gitignore, веса большие, ~92 МБ). Скачать: официальная папка (Google Drive, Baidu код 1x0a):

  • clean_youknow_resnet_9blocks.pth — картиночная clean-модель (движок «картинка»);
  • clean_youknow_video.pth — видеомодель BVDNet (движок «видео», соседние кадры);
  • mosaic_position.pth — локатор мозаики (должен лежать рядом, нужен обоим).

Затем в приложении: Файл → Движок восстановления…, выберите движок (DeepMosaics — картинка или видео) и модель из выпадающего списка (наполняется из models/deepmosaics — для видеодвижка показываются только clean_*_video.pth; есть «Обзор…» для файла в другом месте) и GPU id (-1 = CPU). Если веса в models/deepmosaics — работает сразу; модель грузится один раз, дальше кадры считаются быстро.

Какую модель брать: для покадрового движка — картиночную clean_youknow_resnet_9blocks.pth; для временно́го — видео clean_youknow_video.pth (она запускается только пакетно, «Расцензурить все», т.к. ей нужны соседние кадры). Если на кадре нет мозаики, результат = исходный кадр.

Код DeepMosaics (GPL-3.0) лежит в core/restore/_deepmosaics/ и поэтому весь проект распространяется под GPL-3.0. Запускается на современных torch 2.x/ numpy 2.x (проверено). LADA (видеомодель, лучшее качество на реальном видео) пока не подключён.

Настройка Diffusion-inpaint (SwarmUI)

Этот движок перерисовывает область по маске из детекций YOLO, поэтому сначала посчитайте детекцию («Детектировать все» или «Рассчитать кадр»), а затем запускайте расцензуривание — кадры без детекций остаются без изменений. Диффузионная модель крутится в отдельном сервере SwarmUI, приложение лишь шлёт ему по HTTP картинку + маску + промпт (никаких torch/diffusers в самом приложении на этом пути).

  1. Установите и запустите SwarmUI, загрузите в нём inpaint-чекпойнт (SD/SDXL). По умолчанию сервер слушает http://localhost:7801.
  2. В приложении: Файл → Движок восстановления… → выберите Diffusion-inpaint (SwarmUI) и задайте:
    • SwarmUI URL (по умолчанию http://localhost:7801);
    • Чекпойнт — имя модели как её знает SwarmUI (пусто = текущая в сервере);
    • Промпт / Negative — что нарисовать в области под цензурой / чего избегать;
    • Шаги / CFG / Denoise / Seed — параметры генерации (Denoise 0..1, 1 = полностью перерисовать; Seed -1 = случайный);
    • Маска: расширить / размытие (px) — расширение и мягкость края маски.
    • Кнопка «Проверить соединение» дёргает SwarmUI и сразу показывает ✓ (сервер отвечает) или ✗ с текстом ошибки — удобно убедиться в адресе до расцензуривания.
  3. Запустите «Расцензурить кадр» или «Расцензурить все» — движок прогонит только кадры с детекциями.

Diffusion выдумывает правдоподобное содержимое, а не восстанавливает оригинал. Это сознательно второй движок (не замена DeepMosaics) под случаи, где под цензурой не осталось данных (чёрные плашки). Бэкенд абстрактный — позже можно добавить ComfyUI/A1111 как ещё одну реализацию DiffusionBackend.

Что НЕ делает (осознанно вне области задачи)

  • Не генерирует изображения через диффузию (никакого ControlNet/SDXL).
  • Не детектирует «контент, который следовало бы зацензурить» (NSFW) — ищем именно уже наложенную цензуру.
  • Полноценное генеративное восстановление пока не подключено (см. выше).

Требования

  • ОС: Windows 11 x64 (основная целевая платформа).
  • Python: 3.11+.
  • GPU (опционально): NVIDIA + CUDA для YOLO-детектора и DeepMosaics. CPU-режим работает, но медленный (особенно DeepMosaics / временно́й BVDNet).

Установка

git clone https://github.com/mrleo1nid/HVideoTool.git
cd HVideoTool
python -m venv .venv
.\.venv\Scripts\Activate.ps1
pip install -e ".[yolo]"

Детекция (YOLO) и расцензуривание (DeepMosaics) требуют PyTorch — установите его отдельно под вашу CUDA (см. Модель детектора).

Запуск

# Без аргументов — открывается последний проект (или создайте/откройте новый в тулбаре)
python -m hvideotool

# Необязательно: сразу открыть проект и указать модель YOLO
python -m hvideotool "C:\path\to\МойПроект" --model models\lada_mosaic_detection_model_v4_accurate.pt

Путь к модели и порог сохраняются в ~/HVideoTool/settings.json и применяются при следующем запуске.


Модели детекции (мульти-YOLO)

Детекция — только YOLO, но можно держать и включать несколько моделей сразу (как ADetailer). Структура папок:

models/yolo/
├── mosaic/   # модель(и) детекции мозаики (LADA) — категория "mosaic", красный цвет
├── face/     # напр. yolov8-face — категория "face", зелёный цвет
└── <своё>/   # любая категория = имя папки = ярлык + цвет

Каждая модель — сегментационная YOLO (Ultralytics, core/detection/yolo.py), маски превращаются в контуры. Включайте модели галочками в меню «Модели» тулбара (там же «Добавить модель…» — скопирует .pt в нужную категорию). При расчёте кадра прогоняются все включённые модели, детекции объединяются (core/detection/multi.py), цвет и ярлык — по категории-папке. Рекомендуемые веса для мозаики — LADA mosaic detection. (Старый эвристический classic-CV детектор и комбинированный режим удалены — давали много ложных срабатываний.)

⚠️ Берите правильную модель для мозаики. В models/yolo/mosaic/ нужна модель детекции цензуры (LADA lada_mosaic_detection_model_v4_accurate.pt). Обычная COCO-модель (yolo11n-seg.pt) детектит людей/предметы — это «шум».

Домен важен. Модель LADA обучена на реальном видео (JAV); на части рисованного/аниме контента работает, на части — плохо. Хорошего публичного YOLO-детектора цензуры для аниме нет — это потребовало бы обучения своей модели.

Своя модель мозаики для аниме. Можно обучить YOLO11-seg на синтетике (накладываем мозаику на чистые кадры → авторазметка) и подключить .pt в наш YoloDetector без изменений кода. Инструменты — в scripts/training/:

python scripts\training\gen_mosaic_dataset.py --input C:\clean_frames --output dataset_mosaic
python scripts\training\train_mosaic.py --data dataset_mosaic\data.yaml --epochs 100
# затем скопируйте runs\segment\mosaic\weights\best.pt в models\yolo\mosaic\ и включите галочкой

Установка YOLO-детектора:

pip install -e ".[yolo]"
pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121

New-Item -ItemType Directory -Force models\yolo\mosaic | Out-Null
curl.exe -L -o models\yolo\mosaic\lada_mosaic_detection_model_v4_accurate.pt `
  "https://huggingface.co/ladaapp/lada/resolve/main/lada_mosaic_detection_model_v4_accurate.pt?download=true"

python -m hvideotool   # модель из models\yolo\mosaic подхватится и включится автоматически

⚠️ Лицензия. Ultralytics YOLO и веса LADA — AGPL-3.0; код DeepMosaics — GPL-3.0. Поэтому весь проект распространяется под GPL-3.0.


Архитектура (кратко)

hvideotool/
├── __main__.py              # точка входа + CLI (всё опционально)
├── app.py                   # инициализация QApplication
├── config.py                # настройки: порог/оверлей, detector_models (мульти-YOLO), движок восстановления
├── settings_store.py        # дефолты новых проектов + последний/недавние → settings.json
├── ui/
│   ├── main_window.py       #   окно: список файлов | картинка | таблица детекций
│   ├── image_view.py        #   отрисовка картинки + оверлей-контуры (QPainter)
│   └── marker_slider.py     #   ползунок-перемотка с метками кадров с детекцией
└── core/
    ├── imageio.py           #   unicode-safe чтение/запись картинок (Windows-пути)
    ├── project.py           #   Project: раскладка (project.json/frames/detections.json/collections) + настройки
    ├── video/frame.py       #   Frame (картинка BGR + индекс) — вход детектора
    ├── detection/           #   только YOLO, мульти-модель
    │   ├── base.py          #     Detector (ABC): detect(frame) -> list[Detection]
    │   ├── factory.py       #     build_detector -> MultiYoloDetector по выбранным моделям
    │   ├── registry.py      #     поиск моделей в models/yolo/<категория>/*.pt
    │   ├── multi.py         #     MultiYoloDetector: прогон нескольких моделей + объединение
    │   ├── types.py         #     Detection (+ label/категория, .display), CensorType
    │   ├── cache.py         #     кэш детекций (ключ = набор моделей + conf/imgsz)
    │   └── yolo.py          #     YOLO-детектор (Ultralytics, маски→полигоны, ярлык категории)
    └── restore/             #   DeepMosaics (восстановление) или diffusion-inpaint (перерисовка)
        ├── base.py          #     Restorer (ABC): restore() + restore_sequence() + .temporal/.needs_detections
        ├── factory.py       #     build_restorer -> deepmosaics | deepmosaics_video | diffusion
        ├── deepmosaics.py   #     движки «картинка» (покадрово) и «видео» (BVDNet)
        ├── _deepmosaics/    #     встроенный код DeepMosaics (GPL-3.0)
        ├── mask.py          #     маска из детекций (для diffusion inpaint)
        ├── diffusion.py     #     DiffusionRestorer + DiffusionBackend (ABC) + InpaintParams
        └── swarmui.py       #     бэкенд SwarmUI (HTTP, stdlib urllib — без torch)

Детекция синхронная (по клику/по кнопке «Детектировать все»); тяжёлый YOLO на CPU заметно медленнее, чем на CUDA. Длинные операции можно прервать кнопкой «■ Стоп» (Esc), а результаты кэшируются на диск — см. Кэш детекций.

Технологический стек

Компонент Выбор
Язык Python ≥ 3.11
GUI PySide6 (Qt 6)
Обработка картинок OpenCV / NumPy
Детектор Ultralytics YOLO, мульти-модель (models/yolo/<кат>)
Расцензуривание DeepMosaics (встроен) + PyTorch/CUDA, или diffusion-inpaint через SwarmUI (HTTP)

Лицензия

GPL-3.0 — из-за встроенного кода DeepMosaics (GPL-3.0); веса/код YOLO LADA — AGPL-3.0.

S
Description
No description provided
Readme
615 KiB
Languages
Python 100%