Obi Madu 的博客

Obi Madu 的博客

来自我的职业与技术旅程的最新文章与思考。

精选文章

最新文章

01-09 / 16
移动应用如何工作
Mobile15 分钟阅读

移动应用如何工作

构建移动应用的三种方式,每一种底下实际跑的是什么,以及 React Native、Flutter 和 Tauri Mobile 背后共享的架构模式。

一份代码库,Web 和桌面
System Design12 分钟阅读

一份代码库,Web 和桌面

如何设计一个 Tauri 应用,让同一份 React 代码在浏览器和桌面都跑,方法是把运行时差异藏在一个服务接口后面。

AI 网关预算架构设计:虚拟密钥、提供商密钥与分布式配额管理
AI Engineering12 分钟阅读

AI 网关预算架构设计:虚拟密钥、提供商密钥与分布式配额管理

设计全球 AI 配额系统的蓝图。如何在多请求并发场景下区分请求执行和预算实际消耗。

LiteLLM 与 Bifrost:如何选择 AI 网关
AI Engineering9 分钟阅读

LiteLLM 与 Bifrost:如何选择 AI 网关

对 LiteLLM 基于 Python 的分布式状态和 Bifrost 基于 Go 的原始性能的实用对比,帮你选择一个 AI 网关。

使用 Bifrost 池化 API 密钥
System Design9 分钟阅读

使用 Bifrost 池化 API 密钥

在 Bifrost 中配置 API 密钥池化的实用指南,以及如何通过将速率限制外部化来在多节点环境下安全扩展。

LiteLLM 作为分布式 AI 网关
精选AI Engineering8 分钟阅读

LiteLLM 作为分布式 AI 网关

如何将多个 API 密钥和后端汇集到一个模型 ID 下来扩大速率限制容量,以及 LiteLLM 如何在多节点之间保持这种池化的一致性。

扩展 AI 网关:如何池化 API 密钥并在速率限制下生存
AI Engineering10 分钟阅读

扩展 AI 网关:如何池化 API 密钥并在速率限制下生存

学习如何通过池化 API 密钥来克服 LLM 提供商严格的速率限制,并探索分布式 token 追踪所需的三层架构。

构建可靠的移动计费架构:我的血泪教训
精选Mobile20分钟阅读

构建可靠的移动计费架构:我的血泪教训

当 Webhook、沙盒购买和用户身份失效时,如何在现实世界中修复移动订阅计费。

OAuth 与 OIDC:区别终于解释清楚了
System Design20 分钟阅读

OAuth 与 OIDC:区别终于解释清楚了

对 OAuth、OIDC、访问令牌(Access Tokens)和身份令牌(ID Tokens)的实用解释,消除常见的身份验证困惑。