From 0d1776c8a146cc48f00ad42b2db2b41064a392eb Mon Sep 17 00:00:00 2001 From: vibe-code Date: Thu, 13 Aug 2026 10:08:53 +0000 Subject: [PATCH] =?UTF-8?q?docs:=20README=20=E8=A1=A5=E5=85=85=E6=89=8B?= =?UTF-8?q?=E5=8A=A8=E8=BD=AF=E8=B8=A2=20manual=5Fevict=20=E7=94=A8?= =?UTF-8?q?=E6=B3=95?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- README.md | 29 +++++++++++++++++++++++++++++ 1 file changed, 29 insertions(+) diff --git a/README.md b/README.md index e370322..29e2044 100644 --- a/README.md +++ b/README.md @@ -228,6 +228,35 @@ python volc_limit_sync.py DAILY_LIMIT_LOG_LEVEL=DEBUG python volc_limit_sync.py ``` +### 手动软踢某个模型(运维应急,立即 429) + +模型踩采集上限/异常时,无需等脚本同步阈值,直接往 Redis 写一个 `manual_evict` key 即可将该模型**立即、持续地**软踢(恒 429,直到显式解除)。 + +key 格式:`manual_evict:`(**含渠道前缀,全匹配**,如 `volcengine/deepseek-v4-flash-ga-260731`;同一 clean 名但不同渠道的模型不会被误伤)。 + +```bash +# 软踢:立即对该模型返回 429(key 落 Redis 持久卷,重启 litellm 后仍生效) +docker exec litellm_redis redis-cli SET manual_evict:volcengine/ 1 + +# 解除软踢 +docker exec litellm_redis redis-cli DEL manual_evict:volcengine/ + +# 查看当前手动软踢的模型 +docker exec litellm_redis redis-cli KEYS manual_evict:* +``` + +示例(软踢 deepseek-v4-flash-ga-260731): + +```bash +docker exec litellm_redis redis-cli SET manual_evict:volcengine/deepseek-v4-flash-ga-260731 1 +``` + +注意: + +- 软踢只作用于**纳入监控**的火山模型(`MONITORED_MODEL_PAIRS` 内);非监控渠道不受影响。 +- 幂等:key 在期间每个请求都 429,重复 SET 无副作用。 +- 解除后立即恢复按正常限额判定。 + --- ## 文件职责