Хотел: написать по-русски «это пирамиды в Гизе», нажать кнопку и получить английскую подпись для Instagram с тегами. Я знаю, что на фото; модели одной фразы должно хватить.
Споткнулся о локальную модель. Подпись по кадрам она пишет 10–30 секунд на карусель, качество текста среднее, и главное — она не знает, что на фото, а угадывает. Из двадцати каруселей первого прогона три остались без подписи вовсе: ответ не прошёл проверку схемой после двух повторов. Задача же чисто текстовая — по подсказке, месту и дате написать одну строку. Это дёшево и быстро делает облачная модель, но у меня жёсткое правило: кадры ноутбук не покидают.
Решил: подсказка — свободный текст по-русски у карусели. Есть подсказка — запрос идёт в облачную текстовую роль через мой шлюз; нет — как раньше, локально по кадрам. Облако получает только текст: подсказку, место, месяц и год, стоп-слова и последние подписи, чтобы не повторять зачин. Кадры в облако не уходят никогда, и это не договорённость, а тест на стороне шлюза: ключ куратора до облачной роли дотянуться не может. Для текста выдан второй ключ — с единственной ролью и своим потолком: €1 на 30 дней, срок 180 дней, до марта 2027-го. Этот евро я перенёс от другого клиента шлюза, чтобы общая сумма потолков осталась в пределах бюджета — 19 из 20.
Числа за первые два дня: один вызов — около 660–715 токенов запроса и от 800 до 2 300 токенов ответа; модель размышляет больше, чем пишет. В десяти вызовах ни одного повтора запроса. Заодно приехали «Обновить в desk» — новая версия заменяет старую и утверждается заново — и «Снять пост», чтобы отозвать карусель и вернуть кадры в оборот. После слияния 566 тестов.
Чем плачу: облако кадров не видит и пишет ровно о том, что я сказал. Подсказка из одного слова даёт подпись из одного места и даты — это выстрелило через день, когда я посмотрел на очередь целиком.
#деньги