Leonid PershinandCursor
b24c1b5d4b
Align architecture/cli/decisions with modules and Debug API; cross-link seed overlays and scrape→FTS so user docs match 0.2.0. Co-authored-by: Cursor <cursoragent@cursor.com>
134 lines
4.0 KiB
Markdown
134 lines
4.0 KiB
Markdown
# Spike notes — первый живой прогон
|
||
|
||
Заполняй **руками** после зелёного `doctor`. Без секретов и без личных имён чекпоинтов.
|
||
|
||
Подготовка ключей: [setup.md](setup.md). Цель — один раз пройти панель + CLI на реальном GPU и зафиксировать факты (времена, цены, имя образа).
|
||
|
||
---
|
||
|
||
## 0. Перед прогоном
|
||
|
||
| Шаг | Дата | Результат |
|
||
| --- | --- | --- |
|
||
| Квота GPU в панели (лимит) | | 0 / N |
|
||
| Тикет в поддержку (номер), если был | | |
|
||
| Сервисный пользователь `member` + `.env` | | да / нет |
|
||
| `gpu-rent doctor` exit 0 | | |
|
||
|
||
Текст тикета: [setup.md §2.3](setup.md#23-тикет-в-поддержку).
|
||
|
||
---
|
||
|
||
## 1. Preflight
|
||
|
||
```powershell
|
||
.\gpu-rent.ps1 doctor
|
||
.\gpu-rent.ps1 flavors
|
||
.\gpu-rent.ps1 dry-run
|
||
```
|
||
|
||
| Проверка | OK? | Заметка |
|
||
| --- | --- | --- |
|
||
| Keystone token | | |
|
||
| GPU quota > 0 | | |
|
||
| Flavor из `FLAVOR_PREFERENCE` | | id / имя |
|
||
| Image Driver 580 (без Docker) | | имя образа |
|
||
| Volume type в AZ | | |
|
||
| Civitai `.red` + token (если используешь) | | |
|
||
|
||
---
|
||
|
||
## 2. Первый `up`
|
||
|
||
```powershell
|
||
.\gpu-rent.ps1 up --yes
|
||
```
|
||
|
||
Первый bootstrap долгий (ориентир 20–40 мин). Не рви терминал посередине.
|
||
|
||
| Метрика | Значение |
|
||
| --- | --- |
|
||
| Flavor фактически | |
|
||
| Spot / preemptible | |
|
||
| ACTIVE через (мин) | |
|
||
| SSH через (мин) | |
|
||
| Backend Idle через (мин) | |
|
||
| Seed Civitai (мин / GB) | |
|
||
| Boot snapshot `gpu-rent-boot-ok` | да / нет / ошибка |
|
||
| ₽/час GPU (панель) | |
|
||
| ₽/мес data disk (панель) | |
|
||
| Access-card / URL :17801 | да / нет |
|
||
|
||
---
|
||
|
||
## 3. Туннель и API
|
||
|
||
Если GPU ещё жив, а туннель закрыт (`--no-tunnel` или оборвался SSH):
|
||
|
||
```powershell
|
||
.\gpu-rent.ps1 tunnel --open
|
||
```
|
||
|
||
**Ctrl+D** на живом туннеле = `stop` GPU.
|
||
|
||
| Шаг | OK? |
|
||
| --- | --- |
|
||
| UI http://127.0.0.1:17801 | |
|
||
| `/API/GetNewSession` | |
|
||
| MCP `/mcp` (если нужно) | |
|
||
| `nvidia-smi` через `gpu-rent ssh` | |
|
||
|
||
---
|
||
|
||
## 4. Idle-killer / hold
|
||
|
||
| Шаг | OK? | Заметка |
|
||
| --- | --- | --- |
|
||
| `systemctl status gpu-rent-idle-killer.timer` (по SSH) | | |
|
||
| `gpu-rent hold` пишет hold-until | | |
|
||
| Качалка модели в UI | | hold, если killer не видит busy |
|
||
|
||
---
|
||
|
||
## 5. Preempt / диски / stop
|
||
|
||
| Шаг | OK? |
|
||
| --- | --- |
|
||
| EXPIRED → `tunnel` unshelve или `up` | |
|
||
| `stop` — диски живы | |
|
||
| Второй `up` — те же модели на data | |
|
||
| Boot из snapshot `gpu-rent-boot-ok` | |
|
||
|
||
---
|
||
|
||
## 6. (Опц.) LLM
|
||
|
||
```powershell
|
||
.\gpu-rent.ps1 up --yes --ollama
|
||
# или интерактивно: up → меню runtime/пресет
|
||
```
|
||
|
||
| Шаг | OK? |
|
||
| --- | --- |
|
||
| Ollama :17811 через туннель | |
|
||
| pull / GGUF из манифеста | |
|
||
| `LLM_RUNTIME=none` гасит unit на следующем up | |
|
||
| Debug `:17821` → `GET /assistent/diagnose` | |
|
||
| Assistent chat / Sqlite (UI или session) | |
|
||
| `seed-personas` / overlay | |
|
||
| (опц.) `datasets/civitai/search.jsonl` → FTS на VM | |
|
||
|
||
См. [llm.md](llm.md), [cli.md](cli.md) (Debug), [datasets/README](../datasets/README.md).
|
||
|
||
---
|
||
|
||
## Выводы для кода / конфига
|
||
|
||
- Имя GPU-образа в пуле:
|
||
- Реальные flavor id (не в git):
|
||
- Хватает ли `IDLE_GRACE_MINUTES=45` (дефолт; поднять, если мало на первый Comfy):
|
||
- Application credential с узкими access_rules: ок / ошибка (fail closed):
|
||
- Прочее:
|
||
|
||
Когда spike закрыт — отметь пункты в [roadmap.md](roadmap.md) §0.
|