Add opt-in /assistent/chat-eval for AssistentChat via Debug API.
Lets agents POST/GET a real Assistent turn (tunnel or SSH) without folding it into cheap /snapshot; documents VRAM/Sqlite side effects. Co-authored-by: Cursor <cursoragent@cursor.com>
This commit is contained in:
+16
-1
@@ -139,18 +139,33 @@ Exit 0 → можно `up`. Exit 1 → причина в таблице / кра
|
||||
| `/assistent/memory` | `assistent.sqlite` + counts |
|
||||
| `/assistent/api` | `AssistentListPersonas/Models/Memory/Chats` через туннель (или SSH) |
|
||||
| `/assistent/api?chat_smoke=1` | + 1-token Ollama `/api/chat` (кратко грузит модель) |
|
||||
| `/assistent/chat-eval` | **Opt-in** `GetNewSession` → `AssistentChat` (полный ответ ассистента) |
|
||||
| `/assistent/logs` | journalctl swarmui: build/load/Sqlite |
|
||||
| `/assistent?logs=1` | Сводка + journal |
|
||||
|
||||
Симптомы → куда смотреть: поле `playbook` в `/assistent`.
|
||||
|
||||
**`/assistent/chat-eval`** — не входит в `/snapshot`. Может загрузить chat-модель в VRAM и записать чат в Sqlite (если DLL на месте). Предпочтительно `POST` с JSON; для агентов удобен и `GET` с query.
|
||||
|
||||
```bash
|
||||
# POST (предпочтительно)
|
||||
curl -sS -X POST http://127.0.0.1:17821/assistent/chat-eval \
|
||||
-H "Content-Type: application/json" \
|
||||
-d "{\"message\":\"какой checkpoint и какие steps/cfg должны быть\",\"persona\":\"leonid\",\"timeout\":120}"
|
||||
|
||||
# GET (агенты / быстрый smoke)
|
||||
curl -sS "http://127.0.0.1:17821/assistent/chat-eval?message=ping&timeout=90"
|
||||
```
|
||||
|
||||
Ответ: `ok`, `ms` / `chat_ms`, `model` / `preferred`, `reply` / `reply_prose`, `patch` (prompt/steps/cfg/aspect/actions…), `errors`, `hints`. Туннель `:swarmui_local_port` (обычно 17801), иначе SSH на VM `:7801`.
|
||||
|
||||
После `up --no-tunnel` процесс завершается и sidecar гаснет — держи отдельно:
|
||||
|
||||
```text
|
||||
gpu-rent debug
|
||||
```
|
||||
|
||||
Мутаций конфига/GPU нет (restart/hold/stop — как раньше через CLI). `chat_smoke` только пингует Ollama.
|
||||
Мутаций конфига/GPU нет (restart/hold/stop — как раньше через CLI). `chat_smoke` только пингует Ollama; `chat-eval` — полноценный AssistentChat (opt-in).
|
||||
|
||||
---
|
||||
|
||||
|
||||
Reference in New Issue
Block a user