API限流的核心概念与重要性
API限流是一种通过控制API请求频率或并发量来保护服务稳定性的技术手段，在分布式系统中，API作为服务间通信的桥梁，其可用性直接影响整体系统的性能，当API请求量激增时，若无有效限流机制，可能导致服务器过载、响应延迟甚至崩溃，API限流不仅是保障服务质量的“安全阀”，也是实现资源公平分配、防止恶意攻击的关键措施。
限流的主要目标
- 保护系统稳定性：避免突发流量导致服务不可用，确保核心功能在高并发下仍能正常运行。
- 资源合理分配：通过限制用户或应用的请求频率，防止部分资源占用者挤占系统整体资源。
- 防止恶意攻击：抵御DDoS攻击、暴力破解等恶意行为，保障API接口安全。
- 提升用户体验：通过控制请求速率，减少因服务器过载导致的错误和延迟。
常见的限流算法
固定窗口限流
固定窗口限流将时间划分为固定长度的窗口（如每秒100次请求），在窗口内累计请求次数，超过阈值则拒绝请求。
优点：实现简单，计算开销小。
缺点：窗口切换时可能出现流量尖峰（如前一窗口末尾和后一窗口初期的请求量叠加）。
滑动窗口限流
滑动窗口通过动态计算时间窗口内的请求数量（如过去1秒内的请求），实现更平滑的流量控制。
优点：有效避免固定窗口的流量尖峰问题。
缺点：需要维护请求时间戳，内存和计算开销较大。
令牌桶算法
令牌桶以固定速率向桶中添加令牌，每个请求需消耗一个令牌，桶满则丢弃多余令牌。
优点：支持突发流量（桶内令牌可瞬间消耗），且长期速率可控。
缺点：需合理配置令牌生成速率和桶容量。
漏桶算法
漏桶以固定速率“漏水”（处理请求），请求以任意速率流入桶中，桶满则拒绝请求。
优点：平滑流量，输出速率恒定。
缺点：无法处理突发流量，突发请求会被直接丢弃。
限流算法对比表
| 算法 | 优点 | 缺点 | 适用场景 |
|---|---|---|---|
| 固定窗口限流 | 实现简单，开销小 | 存在流量尖峰 | 简单场景，流量较平稳 |
| 滑动窗口限流 | 流量控制平滑 | 内存和计算开销大 | 高精度流量控制 |
| 令牌桶算法 | 支持突发流量，长期速率可控 | 需合理配置参数 | 电商秒杀、API网关 |
| 漏桶算法 | 输出速率恒定，平滑流量 | 无法处理突发流量 | 流量整形，实时音视频处理 |
限流策略的实现维度
基于用户/IP的限流
根据用户ID或IP地址限制请求频率，防止单个用户或恶意IP过度占用资源，限制每个IP每分钟最多100次请求。
基于API端点的限流
针对不同API接口设置独立限流规则，查询接口限流1000次/秒，支付接口限流10次/秒（因其涉及核心业务）。
基于服务级别的限流
对整个服务或服务集群进行全局限流，避免总请求量超过系统承载能力，限制服务总QPS为5000。
基于权重的限流
根据用户等级或业务重要性分配不同的限流额度，VIP用户限流额度为普通用户的5倍。
限流配置的最佳实践
合理设置限流阈值
阈值需结合系统承载能力、历史流量数据和业务需求综合确定，可通过压测确定系统最大处理能力，并预留一定缓冲空间。
动态调整限流策略
根据实时监控数据动态调整限流阈值，在高峰期临时放宽非核心接口的限流，高峰后恢复。
提供友好的限流响应
当请求被限流时，返回明确的错误码（如429 Too Many Requests）和重试建议（如“请10秒后重试”），避免客户端盲目重试。
监控与告警
实时监控限流触发情况，记录被限流请求的日志，并设置告警机制，以便及时处理异常流量。
限流的常见问题与解决方案
误伤正常用户
问题：基于IP的限流可能因共享IP（如公司出口IP）误伤多个用户。
解决方案：结合用户ID限流，或对白名单IP（如内网IP）豁限流。
限流规则冲突
问题：多维度限流规则（如用户级和接口级）可能存在冲突。
解决方案：明确优先级（如用户级限流优先级高于接口级），或采用组合限流策略。
限流后的重试风暴
问题：客户端收到限流响应后，短时间内大量重试可能导致系统雪崩。
解决方案：服务端返回随机重试延迟时间，客户端采用指数退避算法重试。
API限流是保障系统稳定运行的核心技术，需根据业务场景选择合适的算法和策略，通过合理配置限流规则、动态调整阈值、完善监控告警，既能有效抵御流量冲击，又能提升用户体验，在实际应用中，限流并非“一刀切”的限制，而是灵活的资源管理手段，需在保护系统与满足业务需求之间找到平衡点，随着微服务、云原生架构的普及,API限流将在分布式系统的治理中发挥更加重要的作用。
