diet: срок распознавания поднят до двух минут
- первый вызов после простоя занял 65,9 с и был оборван минутным умолчанием, следующие уложились в 6–10 с - по журналу запросов шлюза попытка была одна: 65,5 с ждал провайдер, накладные шлюза 0,46 с
This commit is contained in:
@@ -48,6 +48,16 @@ api_key = ""
|
|||||||
type = "openai-compat"
|
type = "openai-compat"
|
||||||
model = "bothub/gemini-3.1-flash-lite"
|
model = "bothub/gemini-3.1-flash-lite"
|
||||||
|
|
||||||
|
# Умолчание в минуту обрывает первый за долгое время вызов: 65,9 с 6 сентября
|
||||||
|
# 2026, тогда как следующие за ним укладывались в 6–10 с. Ждал не шлюз и не наш
|
||||||
|
# повтор — по его журналу запросов попытка была одна, у провайдера ушло 65,5 с,
|
||||||
|
# накладные шлюза 0,46 с. То же самое видно у соседа по серверу через другого
|
||||||
|
# провайдера (74 с и 67,8 с, оба раза первый вызов после простоя), так что дело
|
||||||
|
# не в выбранной модели. Срок поднят, чтобы готовый ответ не выбрасывался
|
||||||
|
# за шесть секунд до прихода; настоящая причина медленного первого обращения
|
||||||
|
# наружу этим не лечится.
|
||||||
|
timeout = "2m"
|
||||||
|
|
||||||
[llm.composition]
|
[llm.composition]
|
||||||
# Сведение позиций. Модель медленнее соседки по шлюзу, зато честно говорит
|
# Сведение позиций. Модель медленнее соседки по шлюзу, зато честно говорит
|
||||||
# «не знаю» о незнакомом продукте вместо выдуманного КБЖУ. Разбор фоновый,
|
# «не знаю» о незнакомом продукте вместо выдуманного КБЖУ. Разбор фоновый,
|
||||||
|
|||||||
Reference in New Issue
Block a user