Leonid Pershin
2005b00175
- Added `ollama-models.yaml` to .gitignore and implemented logic to copy it in gpu-rent.ps1 and gpu-rent.sh. - Enhanced env.example to include new variables for LLM runtime options and local watchdog configuration. - Updated CLI commands to support LLM options during setup and execution, including new flags for Ollama and llama.cpp. - Improved documentation in cli.md and README.md to reflect changes in LLM integration and local watchdog functionality. - Adjusted architecture and decisions documentation to clarify the role of LLMs and local watchdog in the system.
40 lines
3.1 KiB
Markdown
40 lines
3.1 KiB
Markdown
# Документация gpu-rent
|
||
|
||
CLI-оркестратор: поднимает прерываемый GPU-сервер в Selectel, монтирует постоянные сетевые диски и открывает SwarmUI на `localhost` через SSH-туннель. Платим за GPU только пока идёт сессия; модели и ComfyUI живут на диске.
|
||
|
||
**Код v1 готов.** Живой `up` ждёт квоту GPU и зелёный `doctor`. Старт руками: [setup.md](setup.md), прогон: [spike-notes.md](spike-notes.md).
|
||
|
||
## Как читать
|
||
|
||
| Документ | Зачем |
|
||
| --- | --- |
|
||
| [setup.md](setup.md) | **С чего начать:** квота GPU, сервисный пользователь, Civitai, установка CLI |
|
||
| [spike-notes.md](spike-notes.md) | Чеклист первого живого прогона |
|
||
| [concept.md](concept.md) | Задача, границы, модель стоимости |
|
||
| [decisions.md](decisions.md) | Зафиксированные решения |
|
||
| [architecture.md](architecture.md) | Компоненты, диски, стейт-машина, idle-killer |
|
||
| [selectel.md](selectel.md) | Контракт с облаком: auth, API, GPU, preemptible, сеть |
|
||
| [models.md](models.md) | Первый seed с Civitai, манифест, пропуск дефолта SwarmUI |
|
||
| [extensions.md](extensions.md) | Git-репы SwarmUI-расширений и ComfyUI nodes |
|
||
| [autocomplete.md](autocomplete.md) | Word-list промптов, Settings.fds, проверка версии |
|
||
| [local-folders.md](local-folders.md) | `Models/` / `Wildcards/` / `CustomWorkflows/` push, optional `Output/` pull |
|
||
| [swarmui.md](swarmui.md) | Нативный install, порт 7801, API, MCP |
|
||
| [llm.md](llm.md) | Opt-in Ollama / llama.cpp, `ollama-models.yaml`, порты 17811/17812 |
|
||
| [cli.md](cli.md) | Команды, конфиг, локальный state |
|
||
| [roadmap.md](roadmap.md) | Порядок реализации |
|
||
| [open-questions.md](open-questions.md) | Ещё не закрыто |
|
||
|
||
## Источники
|
||
|
||
Проверено 21 августа 2026:
|
||
|
||
- [Selectel: preemptible servers](https://docs.selectel.ru/en/cloud-servers/about/preemptible-servers/)
|
||
- [Selectel: GPU](https://docs.selectel.ru/en/cloud-servers/create/gpus/)
|
||
- [Selectel: GPU images / drivers](https://docs.selectel.ru/en/cloud-servers/manage/install-gpu-drivers/)
|
||
- [Selectel: IAM / API auth](https://docs.selectel.ru/en/api/authorization/)
|
||
- [Selectel: restore preemptible](https://docs.selectel.ru/en/cloud-servers/manage/restore-preemptible-server/)
|
||
- [SwarmUI](https://github.com/mcmonkeyprojects/SwarmUI) (нативный Linux, порт 7801)
|
||
- [Civitai Site API](https://developer.civitai.com/) (download + metadata; API есть и на `.red`)
|
||
- [Civitai: два входа .com / .red](https://civitai.com/articles/28369/two-front-doors-civitaicom-civitaired-and-whats-next)
|
||
- [SwarmUI Autocompletions](https://github.com/mcmonkeyprojects/SwarmUI/blob/master/docs/Features/Autocompletions.md)
|