精选文章
最新文章
01-09 / 16Mobile15 分钟阅读
移动应用如何工作
构建移动应用的三种方式,每一种底下实际跑的是什么,以及 React Native、Flutter 和 Tauri Mobile 背后共享的架构模式。
System Design12 分钟阅读
一份代码库,Web 和桌面
如何设计一个 Tauri 应用,让同一份 React 代码在浏览器和桌面都跑,方法是把运行时差异藏在一个服务接口后面。
AI Engineering12 分钟阅读
AI 网关预算架构设计:虚拟密钥、提供商密钥与分布式配额管理
设计全球 AI 配额系统的蓝图。如何在多请求并发场景下区分请求执行和预算实际消耗。
AI Engineering9 分钟阅读
LiteLLM 与 Bifrost:如何选择 AI 网关
对 LiteLLM 基于 Python 的分布式状态和 Bifrost 基于 Go 的原始性能的实用对比,帮你选择一个 AI 网关。
System Design9 分钟阅读
使用 Bifrost 池化 API 密钥
在 Bifrost 中配置 API 密钥池化的实用指南,以及如何通过将速率限制外部化来在多节点环境下安全扩展。
精选AI Engineering8 分钟阅读
LiteLLM 作为分布式 AI 网关
如何将多个 API 密钥和后端汇集到一个模型 ID 下来扩大速率限制容量,以及 LiteLLM 如何在多节点之间保持这种池化的一致性。
AI Engineering10 分钟阅读
扩展 AI 网关:如何池化 API 密钥并在速率限制下生存
学习如何通过池化 API 密钥来克服 LLM 提供商严格的速率限制,并探索分布式 token 追踪所需的三层架构。
精选Mobile20分钟阅读
构建可靠的移动计费架构:我的血泪教训
当 Webhook、沙盒购买和用户身份失效时,如何在现实世界中修复移动订阅计费。
System Design20 分钟阅读
OAuth 与 OIDC:区别终于解释清楚了
对 OAuth、OIDC、访问令牌(Access Tokens)和身份令牌(ID Tokens)的实用解释,消除常见的身份验证困惑。
