Posts
All the articles I've posted.
-
Anthropic 的 SSE 和 OpenAI 的不一样——我是怎么做实时协议转换的
把 Anthropic 的流式事件翻译成 OpenAI 格式,零拷贝,逐 chunk 转发
-
我的 LLM Gateway 怎么做到上游挂了用户无感的
多供应商故障转移 + 熔断 + 健康检查联动实战
-
把熔断器塞进 http.RoundTripper——Go 里最优雅的做法
不改业务代码,在 Transport 层透明实现 per-provider 熔断
-
给 API 网关做限流——令牌桶 + TTL 自动回收实战
每个 token 一个桶,不活跃的桶自动回收,不让内存泄漏