Leonid Pershin
2ccb03f7d2
- Introduced GPU probing functionality to gather and store GPU specifications in `/mnt/swarm_data/.gpu-rent-gpu.json`, aiding in performance tuning. - Updated `install_ollama.sh` and `install_llamacpp.sh` to utilize GPU information for configuring optimal runtime parameters. - Enhanced `provision.py` to include GPU probing and performance tuning logic, ensuring better resource allocation for LLM operations. - Improved documentation in `decisions.md`, `llm.md`, and `swarmui.md` to reflect changes in GPU handling and performance tuning processes. - Added new tests to validate the GPU probing and model resolution logic, ensuring robustness in handling various GPU configurations.
Документация gpu-rent
CLI поднимает прерываемый GPU в Selectel, держит SwarmUI/модели на сетевых дисках и открывает UI на localhost:17801 через SSH-туннель.
С чего начать
- setup.md — квота, ключи,
.env, первыйdoctor→up→stop - Корневой README — быстрый старт и обычный день
- При первом живом GPU заполни spike-notes.md (времена, цены из панели)
Дальше — по задаче.
По задачам
| Хочу… | Документ |
|---|---|
| Понять зачем и сколько стоит | concept.md |
Все команды и .env |
cli.md |
Модели с Civitai / Models/ |
models.md |
| Git-расширения SwarmUI/Comfy | extensions.md |
| Word-list промптов | autocomplete.md |
| Push/pull папок | local-folders.md |
| Ollama / llama.cpp | llm.md |
| Как устроены диски и killer | architecture.md |
| Контракт Selectel | selectel.md |
| Нативный SwarmUI на VM | swarmui.md |
| Зафиксированные решения | decisions.md |
| Статус реализации | roadmap.md |
| Что ещё проверить на spike | open-questions.md |
Ревью кода: docs/reviews/ (для разработки, не для первого запуска).
Источники (Selectel / SwarmUI / Civitai)
Проверено 21 августа 2026: