LlamaCoder:基于 Llama 3.1 405B 的新开源 AI 编程助手

更新时间:2024/11/04, 23:04

图片由 Jim Clyde Monge 提供

今天,Together AI 推出了一款名为 LlamaCoder 的新型 AI 编程助手。它可以根据文本描述生成 Web 应用,且完全免费且开源

什么是 LlamaCoder?

LlamaCoder 是 Together AI 推出的一款开源 Web 应用,允许用户使用 Meta 最新发布的强大开源 4050 亿参数语言模型 Llama 3.1 405B,通过简单的文本提示生成完整的应用程序。

Together AI 总部位于旧金山,致力于生成式人工智能(AI),提供构建、训练和运行 AI 模型的服务。它专注于私有数据处理及 GPU 集群部署,以支持其 AI 服务。

Meta 的 Llama 3.1 系列多语言大语言模型(LLMs)是预训练和指令调整的生成模型,参数分别为 8B、70B 和 405B,专为多语言对话场景优化。在许多行业基准测试中,Llama 3.1 甚至优于许多开源和封闭的聊天模型。下图展示了 Llama 3.1 与 GPT-4、GPT-4o 和 Claude 3.5 Sonnet 等模型的对比。

来自 Meta AI 的图片

自发布以来,LlamaCoder 在 GitHub 上已经获得了 2000 多个星标,仓库被数百位开发者克隆,生成了超过 20 万个应用程序。

"我们的愿景是将研究中的创新尽快推向生产。Together 推理引擎基于我们领先的推理优化技术,如 FlashAttention-3 内核和基于 RedPajama 的自定义推测器,采用最准确的量化技术来提升性能。" —— El Mghari,Together AI 开发者关系主管。

LlamaCoder 如何工作?

您可以在 LlamaCoder 网站 免费试用,无需注册。只需在提示框中描述您想要的应用,然后按下 Enter 键。

图片由 Jim Clyde Monge 提供

LlamaCoder 还提供了多个选项来选择模型和启用 UI 框架 Shadcn UI

  • 模型选择:可以选择 Llama 3.1 405B、Llama 3.1 70B 或 Gemma 2 27B。
  • Shadcn UI:建议启用,这是一个轻量级的开源 UI 框架,帮助开发者快速构建自定义界面。

我们以一个示例来展示其功能。

提示: 帮我构建一个简单的计算器应用

图片由 Jim Clyde Monge 提供

LlamaCoder 的处理速度非常快,仅用大约 10 秒就生成了这个示例。生成的代码会实时显示在界面左侧。

图片由 Jim Clyde Monge 提供

您可以点击右下角的 "在沙箱中打开" 按钮,将应用程序导入到 CodeSandbox 中,以便进行进一步的修改。

此外,您可以请求 AI 对应用程序进行更复杂的调整。例如,我们可以使用以下提示来升级计算器应用以支持科学计算功能:

提示: 更新计算器以支持科学计算

图片由 Jim Clyde Monge 提供

修改效果显著。生成的应用可以公开发布。点击 "发布应用程序" 按钮,LlamaCoder 将生成一个共享链接,例如:https://llamacoder.together.ai/share/SsXU8

LlamaCoder 与其他 AI 编程助手的对比

如果您好奇 LlamaCoder 与其他工具如 Claude 的 Artifacts 的效果对比,可以尝试相同的提示:

提示: 帮我构建一个支持科学计算的计算器应用

图片由 Jim Clyde Monge 提供

虽然结果类似,但在某些情况下,Claude AI 构建的应用界面可能略显简洁。

LlamaCoder 是开源项目

如果您想在本地运行 LlamaCoder,可以从 HuggingFace 下载模型权重。

图片由 Jim Clyde Monge 提供

以下是 LlamaCoder 的技术栈:

  • Llama 3.1 405B:来自 Meta 的 LLM
  • Together AI:用于 LLM 推理
  • Sandpack:代码沙盒
  • Next.js 应用程序路由与 Tailwind
  • Helicone:用于可观察性
  • Plausible:网站分析

要设置和运行 LlamaCoder,可以按照以下步骤操作:

  1. 克隆项目:git clone https://github.com/Nutlope/llamacoder
  2. 创建 .env 文件并添加您的 Together AI API 密钥:TOGETHER_API_KEY=
  3. 运行 npm installnpm run dev 安装依赖并在本地启动。

最后总结

感谢 Together AI 提供免费且开源的 LlamaCoder。它非常适合构建简单应用,如计算器或小游戏等。如果您想开发复杂的全栈 Web 应用,LlamaCoder可能不是最佳选择,但它确实可以作为入门工具,逐步扩展您的项目。

AI奇想空间
AI奇想空间
https://aimazing.site
AI 奇想空间是一个汇聚人工智能工具、资源和教程的导航网站。 在这里,你可以发现最新的AI技术、工具和应用,学习如何使用各种 AI 平台和框架,获取丰富的 AI 资源。 欢迎广大 AI 爱好者加入我们的社区,开启你的AI之旅!
AI交流群
Copyright © 2024 AI奇想空间.微信