Meta Llama 3

我们正在释放大型语言模型的力量。最新版本的 Llama 现已对个人、创作者、研究人员和各类规模的企业开放，使他们能够负责任地实验、创新和扩展他们的想法。

此版本包括 Llama 3 语言模型的预训练和指令微调模型的权重和初始代码——包括从 8B 到 70B 参数的模型。

该仓库旨在作为加载 Llama 3 模型并运行推理的最小化示例。如需更详细的示例，请参阅 llama-recipes。

下载

为了下载模型权重和分词器，请访问 [Meta Llama 网站](https://ll

ama.meta.com/llama-downloads/) 并接受我们的许可证。

一旦你的请求被批准，你将通过电子邮件收到一个签名的 URL。然后运行 download.sh 脚本，按提示传入 URL 开始下载。

请注意链接会在 24 小时后失效。如看到 403: Forbidden 错误，可以重新申请链接。

Hugging Face 下载

我们也提供 Hugging Face 上的下载，有 transformers 和原生 llama3 格式。要从 Hugging Face 下载权重，请访问其中一个仓库，例如 meta-llama/Meta-Llama-3-8B-Instruct。阅读并接受许可证。一旦获得批准，你将获得所有 Llama 3 模型的访问权限。

要下载原生权重，点击 "Files and versions" 标签下载 original 文件夹内容。也可用命令行 pip install huggingface-hub：

huggingface-cli download meta-llama/Meta-Llama-3-8B-Instruct --include "original/*" --local-dir meta-llama/Meta-Llama-3-8B-Instruct

使用 transformers 时，下述代码会下载缓存权重：

 transformers
 torch

model_id = 

pipeline = transformers.pipeline(
  ,
  model=,
  model_kwargs={: torch.bfloat16},
  device=,
)