Files
gpu-rent/docs/spike-notes.md
T
Leonid PershinandCursor b24c1b5d4b Sync remaining docs with CLI surface, Assistent, and Civitai dataset.
Align architecture/cli/decisions with modules and Debug API; cross-link seed overlays and scrape→FTS so user docs match 0.2.0.

Co-authored-by: Cursor <cursoragent@cursor.com>
2026-08-23 08:18:08 +03:00

4.0 KiB
Raw Blame History

Spike notes — первый живой прогон

Заполняй руками после зелёного doctor. Без секретов и без личных имён чекпоинтов.

Подготовка ключей: setup.md. Цель — один раз пройти панель + CLI на реальном GPU и зафиксировать факты (времена, цены, имя образа).


0. Перед прогоном

Шаг Дата Результат
Квота GPU в панели (лимит) 0 / N
Тикет в поддержку (номер), если был
Сервисный пользователь member + .env да / нет
gpu-rent doctor exit 0

Текст тикета: setup.md §2.3.


1. Preflight

.\gpu-rent.ps1 doctor
.\gpu-rent.ps1 flavors
.\gpu-rent.ps1 dry-run
Проверка OK? Заметка
Keystone token
GPU quota > 0
Flavor из FLAVOR_PREFERENCE id / имя
Image Driver 580 (без Docker) имя образа
Volume type в AZ
Civitai .red + token (если используешь)

2. Первый up

.\gpu-rent.ps1 up --yes

Первый bootstrap долгий (ориентир 20–40 мин). Не рви терминал посередине.

Метрика Значение
Flavor фактически
Spot / preemptible
ACTIVE через (мин)
SSH через (мин)
Backend Idle через (мин)
Seed Civitai (мин / GB)
Boot snapshot gpu-rent-boot-ok да / нет / ошибка
₽/час GPU (панель)
₽/мес data disk (панель)
Access-card / URL :17801 да / нет

3. Туннель и API

Если GPU ещё жив, а туннель закрыт (--no-tunnel или оборвался SSH):

.\gpu-rent.ps1 tunnel --open

Ctrl+D на живом туннеле = stop GPU.

Шаг OK?
UI http://127.0.0.1:17801
/API/GetNewSession
MCP /mcp (если нужно)
nvidia-smi через gpu-rent ssh

4. Idle-killer / hold

Шаг OK? Заметка
systemctl status gpu-rent-idle-killer.timer (по SSH)
gpu-rent hold пишет hold-until
Качалка модели в UI hold, если killer не видит busy

5. Preempt / диски / stop

Шаг OK?
EXPIRED → tunnel unshelve или up
stop — диски живы
Второй up — те же модели на data
Boot из snapshot gpu-rent-boot-ok

6. (Опц.) LLM

.\gpu-rent.ps1 up --yes --ollama
# или интерактивно: up → меню runtime/пресет
Шаг OK?
Ollama :17811 через туннель
pull / GGUF из манифеста
LLM_RUNTIME=none гасит unit на следующем up
Debug :17821GET /assistent/diagnose
Assistent chat / Sqlite (UI или session)
seed-personas / overlay
(опц.) datasets/civitai/search.jsonl → FTS на VM

См. llm.md, cli.md (Debug), datasets/README.


Выводы для кода / конфига

  • Имя GPU-образа в пуле:
  • Реальные flavor id (не в git):
  • Хватает ли IDLE_GRACE_MINUTES=45 (дефолт; поднять, если мало на первый Comfy):
  • Application credential с узкими access_rules: ок / ошибка (fail closed):
  • Прочее:

Когда spike закрыт — отметь пункты в roadmap.md §0.