Leonid Pershin
2005b00175
- Added `ollama-models.yaml` to .gitignore and implemented logic to copy it in gpu-rent.ps1 and gpu-rent.sh. - Enhanced env.example to include new variables for LLM runtime options and local watchdog configuration. - Updated CLI commands to support LLM options during setup and execution, including new flags for Ollama and llama.cpp. - Improved documentation in cli.md and README.md to reflect changes in LLM integration and local watchdog functionality. - Adjusted architecture and decisions documentation to clarify the role of LLMs and local watchdog in the system.
3.1 KiB
3.1 KiB
Документация gpu-rent
CLI-оркестратор: поднимает прерываемый GPU-сервер в Selectel, монтирует постоянные сетевые диски и открывает SwarmUI на localhost через SSH-туннель. Платим за GPU только пока идёт сессия; модели и ComfyUI живут на диске.
Код v1 готов. Живой up ждёт квоту GPU и зелёный doctor. Старт руками: setup.md, прогон: spike-notes.md.
Как читать
| Документ | Зачем |
|---|---|
| setup.md | С чего начать: квота GPU, сервисный пользователь, Civitai, установка CLI |
| spike-notes.md | Чеклист первого живого прогона |
| concept.md | Задача, границы, модель стоимости |
| decisions.md | Зафиксированные решения |
| architecture.md | Компоненты, диски, стейт-машина, idle-killer |
| selectel.md | Контракт с облаком: auth, API, GPU, preemptible, сеть |
| models.md | Первый seed с Civitai, манифест, пропуск дефолта SwarmUI |
| extensions.md | Git-репы SwarmUI-расширений и ComfyUI nodes |
| autocomplete.md | Word-list промптов, Settings.fds, проверка версии |
| local-folders.md | Models/ / Wildcards/ / CustomWorkflows/ push, optional Output/ pull |
| swarmui.md | Нативный install, порт 7801, API, MCP |
| llm.md | Opt-in Ollama / llama.cpp, ollama-models.yaml, порты 17811/17812 |
| cli.md | Команды, конфиг, локальный state |
| roadmap.md | Порядок реализации |
| open-questions.md | Ещё не закрыто |
Источники
Проверено 21 августа 2026:
- Selectel: preemptible servers
- Selectel: GPU
- Selectel: GPU images / drivers
- Selectel: IAM / API auth
- Selectel: restore preemptible
- SwarmUI (нативный Linux, порт 7801)
- Civitai Site API (download + metadata; API есть и на
.red) - Civitai: два входа .com / .red
- SwarmUI Autocompletions