开源大模型

这是什么

开源大语言模型本身（权重 + 推理代码），不含 runtime 或前端。Llama / Qwen / MiniCPM / FinGPT 等开源 LLM 在这里。

用什么场景

• 本地部署私有问答（数据不出本地，符合合规）
• 在自家产品里嵌入对话能力，避免 API 成本
• 学术研究、模型 fine-tune
• 边缘设备 / 端侧部署（小模型）

选型考虑

显存：7B 模型 fp16 需 14GB，量化后 4-8GB；13B 起步 24GB；70B 推理需多卡。商用授权：Llama 协议有限制（>7 亿月活需谈），Qwen / MiniCPM 协议宽松可商用。中文表现：Qwen / MiniCPM / 文心明显好于纯英文模型。

主流项目

本分类下 10 个开源 LLM，按 GitHub stars 与中文社区活跃度排序。