ZED Smart Proxy

Operator cockpit

Очікую живий стан

Очікується актуальний стан сервісу.

Рекомендована дія Перевірити live state Очікується перший live update.

Сервісcheckinghealth очікує

Баланс-policy очікує

Режим-premium/fallback очікує

Останній route-причина очікує

DNSочікуєПеревіряю canonical host

TLSочікуєПеревіряю scheme

Zed APIhttps://zedproxy.pro/v1OpenAI-compatible endpoint

Dashboardhttps://zedproxy.proПанель оператора

IP fallbackhttp://46.202.188.88/zedproxy/Резервний доступ до DNS/TLS

Policyочікує live stateОчікується readiness

Запитів сьогодні0

Витрати за день$0.0000

Середнє за вікном$0.00000

Кеш-хіти0%

Активні генерації0

Балансnormalочікує живий стан

Режимautoпровайдер: ok

Активний рівень-причина: -

Ліміт відповіді-кредитні події: -

Наступні дії

очікує

Оповіщення

очікує

Канал оповіщень очікує перевірку.

Провайдери

очікує

MCP контур

очікує

Активні генерації

онлайн

Поточні правила маршрутизації

Операційна хронологія policy

очікує

Розподіл моделей

Останні запити

Правила

Моделі

Транспорт моделей

Каталог OpenRouter

Це живий список моделей OpenRouter. Імпорт додає модель у локальний каталог proxy, після чого її можна обрати в A/B тестах, Playground або правилах маршрутизації.

Системні промпти

Пісочниця

A/B тести

Для чесного cold-start порівняння перед A/B тестом очисти кеш у вкладці «Кеш» або тимчасово вимкни його. Інакше повторні однакові запити можуть прийти з кешу й спотворити latency та вартість.

Живі логи

Активні інциденти

Route decisions

Provider incidents

Бюджет

Денний ліміт Цільове середнє Жорстка межа середнього Мін. ціль генерації Макс. ціль генерації Прогноз виходу, токени Вікно усереднення Тримати auto під макс. вартістю Якість у межах бюджету Здешевлювати при перевищенні Блокувати Sonnet при перевищенні Зупиняти все на денному ліміті Попереджати про перевищення Ліміт cheap Ліміт tool-cheap Ліміт strong Ліміт premium

Підключення Zed до Smart Proxy

auto

ШлюзZED Smart Proxy

Провайдер у ZedOpenRouter

API URLhttps://zedproxy.pro/v1

Модель у Zedauto

Поточний auto route-

Системний ключ-

У Zed потрібно вказати API URL, модель auto і згенерований client key. Усі запити після цього проходять через policy, cache і smart routing цього VPS.

Швидкий setup Завантажую contract для Zed...

Що вставити у Zed

Smoke без spend

Generated keys Ще немає даних.

Preview маршруту auto

без spend

Ключі провайдерів

Кеш

Кеш спільний для всього VPS proxy, а не окремий для кожного проєкту. Ключ кешу залежить від моделі та повного payload запиту, тому однаковий prompt на тій самій моделі може дати кеш-хіт навіть у різних проєктах.

Як працює платформа

Zed -> VPS Proxy: локальний Zed працює як клієнт, а всі агентні запити йдуть на https://zedproxy.pro/v1 з моделлю auto.
Smart Router: proxy визначає тип задачі, складність, бюджетні обмеження й підбирає модель.
LiteLLM/OpenRouter: фактичний запит іде в обрану upstream модель через LiteLLM.
Санітизація: reasoning-поля вирізаються, щоб Zed отримував чисту OpenAI-compatible відповідь.
Логи й витрати: токени, модель, маршрут, ціна та cache-hit записуються в SQLite базу на VPS.

Автозапуск і сервіси

Proxy: https://zedproxy.pro/v1
Панель: https://zedproxy.pro
Автозапуск: systemd service zedproxy.service на VPS
Публічний маршрут: домен або IP reverse proxy перенаправляє /, /v1 і /health у native service.
Кеш: Redis service на VPS, з memory fallback
Ручні команди: systemctl status zedproxy, journalctl -u zedproxy -f

Доступ і вхід

Реєстрації немає: панель відкривається через окреме вікно входу.
Обліковий запис адміністратора: вхід працює через логін admin.
Пароль адміністратора: задається тільки через ZED_DASHBOARD_PASSWORD.
Захист сесії: cookie-session закриває сторінки панелі, керуючі /api endpoint-и і websocket логів.
Ключі для Zed: вкладка «Ключі» генерує окремі client keys у форматі OpenRouter (sk-or-v1-...); у базі зберігається hash і маска, а повний ключ показується один раз.
Вихід: кнопка «Вийти» очищає поточну сесію браузера.
Зміна доступу: через ZED_DASHBOARD_USERNAME, ZED_DASHBOARD_PASSWORD, ZED_DASHBOARD_SESSION_SECRET.

Робота через SSH і Zed

SSH вхід: робоча машина для коду тепер VPS, а основний runtime живе на ньому постійно.
Папка runtime: /var/www/Zedproxy.
Робочий режим: відкривай VPS по SSH у Zed і працюй відразу на сервері, без локального proxy/runtime.
Важливо: /var/www/Zedproxy це deploy-копія без .git; для повного git-workflow потрібен окремий git clone на VPS або локальний repo як source of truth.
Профіль Zed: у Zed обирай OpenRouter, вставляй URL https://zedproxy.pro/v1, модель auto і згенерований у вкладці «Ключі» ключ sk-or-v1-....
Локальний Mac: локальний proxy вимкнений; редактор лише відправляє запити у VPS API.
Що перевіряти: якщо щось не відповідає, дивись journalctl -u zedproxy -f і вкладку «Логи».

Кеш, версії й A/B тести

Кеш не по проєкту: він спільний для всього VPS proxy.
Що входить у ключ: назва моделі + payload запиту без stream полів.
Одна й та сама модель + той самий prompt: може повернутися з кешу, навіть якщо тест іде з іншого проєкту.
Різні моделі: мають різні cache keys, тому A/B між моделями не ділить один і той самий запис.
Cold-тест: очистити кеш або вимкнути кеш.
Warm-тест: лишити кеш увімкненим, щоб дивитися поведінку після прогріву.
Точні моделі: у A/B формі прапорець «Тестувати точні моделі» не дає budget-router підміняти вибраний варіант.

OpenRouter каталог

Живий список: вкладка «Моделі» може завантажити актуальний каталог OpenRouter.
Імпорт: обрана модель додається в локальний каталог proxy з цінами за 1M токенів.
Тестування: після імпорту модель доступна в A/B тестах, Playground і правилах маршрутизації.
Zed: редактор усе одно бачить одну модель auto, а вибір конкретних версій робиться в панелі.

Бюджетна ціль

Ціль: тримати одну не кешовану генерацію в діапазоні $0.010-$0.050.
Автоліміт: якщо прогнозована вартість вибраної auto-моделі вища за максимум, router шукає найякіснішу модель, яка вкладається в cap.
Базовий ліміт відповіді: Zed і proxy стартують із cheap cap 700, tool-cheap 900, strong 2000, premium 3500.
Обмежений режим: при critical/exhausted balance premium routes вимикаються, а output cap автоматично зменшується.
Якість у межах бюджету: окремий перемикач може піднімати auto до сильнішої моделі, якщо початковий вибір дешевший за мінімальну ціль і сильніша модель вкладається в максимум.
Аналітика: вкладка «Бюджет» показує останню генерацію, rolling average, запити в цілі й запити вище цілі.
Реальність: точна ціна відома після відповіді OpenRouter, тому cap працює як прогноз за prompt + очікуваними output токенами.

Стан політики

Стан балансу: normal, low_balance, critical_balance, balance_exhausted.
Тільки дешеві моделі: вимикає strong/premium routes і тримає відповіді коротшими.
Коди причин: кожен request log має policy_reason_code, policy_tier і effective_output_cap.
Кредитні події: 402 або can only afford N пишуться як policy event, навіть якщо retry потім успішний.

Де лежать дані

Моделі: config/models.yaml
Routing rules: config/routing.yaml
Runtime config: config/.env
База платформи: logs/costs.db
Логи процесу: journalctl -u zedproxy -f

Практичне правило: якщо порівнюєш саме моделі або ціни, тримай однаковий prompt і контролюй стан кешу. Якщо порівнюєш якість на реальній роботі після прогріву, кеш можна залишити ввімкненим.