今天，Together AI 推出了一款名为 LlamaCoder 的新型 AI 编程助手。它可以根据文本描述生成 Web 应用，且完全免费且开源。
什么是 LlamaCoder？
LlamaCoder 是 Together AI 推出的一款开源 Web 应用，允许用户使用 Meta 最新发布的强大开源 4050 亿参数语言模型 Llama 3.1 405B，通过简单的文本提示生成完整的应用程序。
Together AI 总部位于旧金山，致力于生成式人工智能（AI），提供构建、训练和运行 AI 模型的服务。它专注于私有数据处理及 GPU 集群部署，以支持其 AI 服务。
Meta 的 Llama 3.1 系列多语言大语言模型（LLMs）是预训练和指令调整的生成模型，参数分别为 8B、70B 和 405B，专为多语言对话场景优化。在许多行业基准测试中，Llama 3.1 甚至优于许多开源和封闭的聊天模型。下图展示了 Llama 3.1 与 GPT-4、GPT-4o 和 Claude 3.5 Sonnet 等模型的对比。
自发布以来，LlamaCoder 在 GitHub 上已经获得了 2000 多个星标，仓库被数百位开发者克隆，生成了超过 20 万个应用程序。
"我们的愿景是将研究中的创新尽快推向生产。Together 推理引擎基于我们领先的推理优化技术，如 FlashAttention-3 内核和基于 RedPajama 的自定义推测器，采用最准确的量化技术来提升性能。" —— El Mghari，Together AI 开发者关系主管。
LlamaCoder 如何工作？
您可以在 LlamaCoder 网站 免费试用，无需注册。只需在提示框中描述您想要的应用，然后按下 Enter 键。
LlamaCoder 还提供了多个选项来选择模型和启用 UI 框架 Shadcn UI：
- 模型选择：可以选择 Llama 3.1 405B、Llama 3.1 70B 或 Gemma 2 27B。
- Shadcn UI：建议启用，这是一个轻量级的开源 UI 框架，帮助开发者快速构建自定义界面。
我们以一个示例来展示其功能。
提示： 帮我构建一个简单的计算器应用
LlamaCoder 的处理速度非常快，仅用大约 10 秒就生成了这个示例。生成的代码会实时显示在界面左侧。
您可以点击右下角的 "在沙箱中打开" 按钮，将应用程序导入到 CodeSandbox 中，以便进行进一步的修改。
此外，您可以请求 AI 对应用程序进行更复杂的调整。例如，我们可以使用以下提示来升级计算器应用以支持科学计算功能：
提示： 更新计算器以支持科学计算
修改效果显著。生成的应用可以公开发布。点击 "发布应用程序" 按钮，LlamaCoder 将生成一个共享链接，例如：https://llamacoder.together.ai/share/SsXU8。
LlamaCoder 与其他 AI 编程助手的对比
如果您好奇 LlamaCoder 与其他工具如 Claude 的 Artifacts 的效果对比，可以尝试相同的提示：
提示： 帮我构建一个支持科学计算的计算器应用
虽然结果类似，但在某些情况下，Claude AI 构建的应用界面可能略显简洁。
LlamaCoder 是开源项目
如果您想在本地运行 LlamaCoder，可以从 HuggingFace 下载模型权重。
以下是 LlamaCoder 的技术栈：
- Llama 3.1 405B：来自 Meta 的 LLM
- Together AI：用于 LLM 推理
- Sandpack：代码沙盒
- Next.js 应用程序路由与 Tailwind
- Helicone：用于可观察性
- Plausible：网站分析
要设置和运行 LlamaCoder，可以按照以下步骤操作：
- 克隆项目：
git clone https://github.com/Nutlope/llamacoder - 创建
.env文件并添加您的 Together AI API 密钥：TOGETHER_API_KEY= - 运行
npm install和npm run dev安装依赖并在本地启动。
最后总结
感谢 Together AI 提供免费且开源的 LlamaCoder。它非常适合构建简单应用，如计算器或小游戏等。如果您想开发复杂的全栈 Web 应用，LlamaCoder可能不是最佳选择，但它确实可以作为入门工具，逐步扩展您的项目。
