Разработчик под ником mrPetrukovich запустил ИИ-ассистента «Лиза Петровна» — бот в Telegram и мессенджере MAX, который принимает текст, голос и фото, а потом сам решает, ответить или передать задачу профильному агенту. За 30 дней языковые модели обошлись в $77. Это не прогноз и не демо — цифры с прода.
Один вход, много агентов внутри
Идея простая: пользователь пишет в один чат, не выбирая специалиста. Секретарь сам маршрутизирует запрос — к доктору, юристу, дизайнеру, штурману или отвечает напрямую. Контекст при этом сохраняется между агентами, между днями и между мессенджерами.
С 30 мая боту написали 8568 запросов 118 человек. За последние 30 дней из них сформировалось около 2500 ответов секретаря — именно по ним считается экономика.
Технически стек выглядит так: LiteLLM как прокси перед всеми провайдерами, Postgres с pgvector для хранения переписки и памяти, Redis, локальный эмбеддинг-сервис на модели deepvk/USER2-small (без внешних API), собственный SearXNG для веб-поиска. Всё в docker compose, деплой через Ansible.
Как бот решает, какую модель вызвать
По умолчанию запрос идёт к дешёвой модели. На дорогую уходит только то, что явно этого требует. Логика маршрутизации закодирована в одной функции с регуляркой — никакого классификатора на нейросети.
Два триггера для «эскалации» на дорогую модель:
- complex — регулярка ловит слова вроде «проанализируй», «разбери договор», «напиши код», «посчитай», «исследуй»;
- length — сообщение вместе с контекстом длиннее 2500 символов.
Веб-поиск в триггеры намеренно не входит: SearXNG доступен всем моделям, и дешёвая с ним справляется. Автор объясняет выбор регулярки прямо: её можно прочитать, покрыть тестами и всегда объяснить, почему конкретный запрос ушёл на Opus. Классификатор на модели добавлял бы задержку и стоимость к каждому ответу ради решения по 7% из них.
Профильные агенты — доктор, юрист и другие — роутингом секретаря не управляются. У каждого своя модель в конфигурации, там приоритет качества, а не скорости.
Цифры: кто отвечает и сколько это стоит
| Модель | Доля ответов | Медиана времени | Средняя цена ответа |
|---|---|---|---|
| DeepSeek (текст + зрение) | 88% | 2,5–12 с | $0,002–0,007 |
| Claude Opus 5 | 7% | 18–38 с | $0,21–0,24 |
| Claude Haiku 4.5 | 2,4% | 43 с | $0,006 |
| GLM 5.2 (эксперимент) | 2,2% | 5 с | $0,026 |
За 30 дней секретарь стоил $51 только на LLM (без генерации картинок и видео). Из них $39 — ответы Claude Opus 5. Один ответ Opus стоит примерно как 50 ответов DeepSeek.
Перенести эти 7% на DeepSeek технически можно. Но именно там сосредоточены запросы «разбери договор» или «посчитай, хватит ли топлива». Ошибка в таком ответе, по оценке автора, стоит дороже двадцати центов.
Память: 7933 эпизода, гибридный поиск, 33 мс в среднем
В базе накоплено 7933 эпизода от 97 человек. Каждый обмен — что написал пользователь и что ответила Лиза — сохраняется как эпизод с вектором.
Эмбеддинг считается в фоне после записи: ответ пользователю никогда не ждёт эмбеддинг-сервер. Поиск гибридный — семантика через pgvector плюс полнотекстовое совпадение, результаты сливаются. Слова пользователя весят больше слов ответа: система ищет разговор, где человек сам это сказал, а не тот, где бот это упомянул.
Если эмбеддинг-сервис недоступен, поиск деградирует до полнотекстового — медленнее, но не падает. Поиск по памяти занимает в среднем 33 мс, медиана 17 мс. Память у каждого пользователя своя, общей базы нет.
Что люди на самом деле просят у «секретаря»
Все 8568 запросов с 30 мая разложили по темам через DeepSeek батчами по 80 сообщений — одна тема на сообщение из 16 вариантов. Переписку никто не читал, считались только доли.
Сначала отсеяли короткие реплики («давай», «ты тут?», тесты) — их оказалось 21%. С ботом разговаривают как с человеком. Осталось 6796 реальных задач:
| Тема | Доля задач |
|---|---|
| Разобрать фото, документ, скриншот | 19,6% |
| Сделать картинку, видео, дизайн | 12,5% |
| Компьютер, IT, настройка | 9,2% |
| Найти факт, новость, справку | 9,1% |
| Деньги, бизнес, работа | 7,1% |
| Техника, авто, авиация | 6,9% |
| Здоровье | 6,2% |
| Юридические и госвопросы | 5,6% |
| Поговорить, совет по жизни | 5,0% |
| Написать или перевести текст | 4,9% |
| Календарь и напоминания | 4,7% |
| Поездки, места, рестораны | 4,7% |
| Учёба, языки, спорт | 2,5% |
| Семья, дом, быт | 2,1% |
Каждая пятая задача начинается с фото — бот без зрения теряет главный сценарий. Для этого у секретаря отдельная vision-модель, она даёт около 7% всех его ответов.
Классической секретарской работы — календарь, напоминания — меньше 5%. «ИИ-секретарь» оказался не ежедневником, а универсальным окном для любого вопроса.
Где это пока ломается и чего в источнике нет
Автор не публикует данные о точности ответов и не приводит примеры ошибок с конкретными запросами — только общее замечание, что ошибка в сложном запросе стоит дороже, чем экономия на модели.
Нет информации о том, как обрабатываются голосовые сообщения на уровне транскрипции, какова задержка на этом этапе и какая модель за это отвечает. Стоимость генерации картинок и видео в $77 не включена и отдельно не раскрыта.
Классификация запросов по темам сделана моделью и, по признанию автора, приблизительная — доли могут отклоняться на пару процентных пунктов. Это важно учитывать при интерпретации таблицы.
Для разработчика, который строит похожий продукт, здесь есть практически готовая схема маршрутизации: регулярка вместо классификатора, два триггера, LiteLLM как прокси. Это не академическая статья — это задокументированный прод с реальными деньгами и реальными пользователями.