限流

限流像热门餐厅限量点单：厨房产能有限，每桌每小时只能点这么多，点多了就请你稍等。大模型服务通常按每分钟请求数、每分钟 Token 数、每天用量等维度限制，超出后返回 429 状态码或 rate limit exceeded 之类的提示。

你可能在两种场景遇到它：一是使用 AI 编程工具时额度用完，要等一会儿或换个模型；二是你开发的产品调用大模型 API，用户一多就触发限制。

第二种情况下，代码要做好处理：遇到 429 时等一会儿再重试，且每次等待时间逐渐加长（指数退避）；界面上给用户友好的提示；前端做防抖，避免用户连续点击发出一堆请求。