Posts
All the articles I've posted.
-
另一种断流:Hermes 没设 context_length,对话撑到 57K 直接挂
同样是不回复、断流,但根因和 OOM 完全不同——Hermes 配置缺少 context_length,vLLM 的 max_model_len=65536 成了隐形天花板。对话一撑到 57K,下一轮请求超上限直接 HTTP 400。
-
Hermes 断流排查实录:从「回复到一半就停」到 vLLM OOM 根因修复
Hermes Agent 回复到一半突然卡住,没有报错、没有超时,就这么停了。花了两天时间从现象倒推根因,最终定位到 vLLM 显存不足导致的流式中断。这篇文章记录完整的排查思路和修复过程。
-
微信公众号 API 发布文章踩坑记:40066、45003 与那些说不清的 BUG
用微信公众号 API 自动化发布文章,本以为只是调几个接口的事,结果被三个错误码硬控了一整天。这篇记录真实的踩坑过程,从 40066 到 45003,从「接口已废弃」到「标题字节玄学」,希望能帮后来人省点时间。
-
Harness Engineering:8B 模型从 53% 到 99%,秘密不在模型本身
一篇解读「Forge — Guardrails take an 8B model from 53% to 99%」的文章,以及 Harness Engineering 对我们意味着什么。