tashfeenahmed/freellmapi

它是什么

这是一个 OpenAI 兼容代理，不是单一模型或普通 SDK。它把 Google、Groq、Cerebras、NVIDIA、Mistral 等 18 家免费 LLM 供应商，以及自定义的 OpenAI 兼容 chat、embedding、image、audio 端点，统一到一个 /v1 接口里。它主要面向想直接调用多家模型免费额度的人，尤其是做实验、原型和 AI 工作流的人。

为什么值得关注

它把“到处申请、到处切换、到处管额度”的问题收拢成一个入口，README 里还明确给出 161 个免费模型和 1.7B tokens/月的聚合规模。榜单信号也显示它增长很快，说明这个“免费额度聚合 + 自动路由”的需求很强。

核心能力

• 一个 OpenAI 兼容 /v1 入口
• 聚合 18 家免费 LLM 供应商的额度
• 支持 161 个免费模型的统一调用
• 智能路由并在限流时自动切换供应商

适合谁用

• 需要统一接入多家模型免费额度的人
• 做 AI 原型、提示词测试和个人实验的人
• 要接 chat、embedding、image、audio 兼容端点的人
• 想减少手动切换供应商的开发者

使用前注意

• README 明确写着 only for personal experimentation，不是面向生产
• 需要管理各供应商账号、密钥和每家的免费额度限制
• 自动路由会在某个供应商限流时切到下一个可用提供方
• 自定义端点必须是 OpenAI-compatible 才能接入

README 证据

• One OpenAI-compatible endpoint，单入口对外提供服务
• 18 free LLM providers，README 明写聚合 18 家免费供应商
• 161 free models，公开目录列出 161 个免费模型
• Keys are stored encrypted，密钥以加密方式存储