Tag: llm-gateway

All the articles with the tag "llm-gateway".

• Anthropic 的 SSE 和 OpenAI 的不一样——我是怎么做实时协议转换的

  28 Nov, 2025

  把 Anthropic 的流式事件翻译成 OpenAI 格式，零拷贝，逐 chunk 转发

• 我的 LLM Gateway 怎么做到上游挂了用户无感的

  21 Nov, 2025

  多供应商故障转移 + 熔断 + 健康检查联动实战

• 把熔断器塞进 http.RoundTripper——Go 里最优雅的做法

  14 Nov, 2025

  不改业务代码，在 Transport 层透明实现 per-provider 熔断