16. Один символ решает, что торчит наружу_
У сервиса автоматизации на сервере два разных потребителя, и требования у них противоположные. Интерфейс, где рисуют сценарии, должен быть доступен только мне —...
Заметки о разработке продуктов: что сделано, во что обошлось и что сделал бы иначе.
У сервиса автоматизации на сервере два разных потребителя, и требования у них противоположные. Интерфейс, где рисуют сценарии, должен быть доступен только мне —...
В чек-листе приёмки был пункт про изоляцию: у сервиса автоматизации, который живёт на сервере, не должно быть доступа к хранилищам платформы. Он умеет ставить з...
Идемпотентность роли проверяют так: прогнал, прогнал ещё раз, во второй раз ноль изменений — значит роль не дёргает сервер попусту. Стандартный приём, я им поль...
В чек-листе был пункт: «смерть исполнителя не оставляет задачу висеть». Шаги простые — создать задачу, дождаться, пока она пойдёт в работу, убить процесс, ждать...
Сел прогонять приёмку этапа: шестнадцать пунктов, каждый проверяется наблюдением — код ответа, строка на экране, запись в базе. И сразу упёрся в неприятное: в р...
Хватит теории. Взял папку с реальными документами за май–сентябрь: инвойсы поставщиков, чеки, выписки, налоговые формы. Сорок девять штук. Задача: определить ти...
Понадобилось отправить задачу в облачную модель из сценария автоматизации. Развилка: положить ключ провайдера прямо в сценарий или объявить ещё одну роль в своё...
Следующим вперёд поднялся этап автоматизации: внешнее событие порождает задачу без моего участия. Я собирался поставить n8n рядом с платформой, в тот же compose...
Третий прогон впервые дошёл до модели: семь итераций агентного цикла, 63 545 входных токенов. И три результата — два таймаута и одно переполнение. Прежде чем де...
Раз в контекст не влезает служебный промпт — надо расширять окно. Наивный путь: взять модель поменьше. Пошёл другим. Включил квантование KV-кеша, q8_0 вместо f1...
Второй заход дошёл до чисел, и вот тут стало интересно. Нулей оказалось два, и складывать их нельзя. Ноль первый. Модель в режиме diff: 0 из 7 задач. Отвечала п...
Перед экспериментом с локальной моделью для агентов я записал в план три исхода и порог каждого: — локальная тянет, если решено ≥ 50 % задач, медиана ≤ 20 минут...
Дошёл до замеров и получил число, из-за которого пришлось переставлять весь план. Один шаг агента: контекст ~6 тысяч токенов, ответ ~350 токенов — 77,5 секунды....
Захотел выдавать разным клиентам разные ключи к шлюзу: чтобы видеть, кто сколько потратил, и отзывать доступ по одному, а не всем сразу. Штатный способ у LiteLL...
Первый шаг был простой: локальная модель, шлюз перед ней, веб-интерфейс сверху. Заработало за вечер. Потом я посмотрел на это трезво и нашёл четыре вещи, каждая...
Я строю домашнюю AI-платформу. Не чат с моделью — платформу: ставишь задачу, закрываешь ноутбук, уходишь; она сама её выполняет и позже отдаёт результат. Причин...