项目详情
深入了解 localGPT 的功能与特性
localGPT
localGPT 是一个基于 GPT-4 的项目,灵感来自于原始的 privateGPT。这里的大部分描述都是受到原始 privateGPT 的启发。
对于项目的详细概述,请观看以下视频:
在这个模型中,我用 Vicuna-7B 模型替换了 GPT4ALL 模型,并使用 InstructorEmbeddings 替代了原始 privateGPT 中使用的 LlamaEmbeddings。嵌入和 LLM 都将在 GPU 上运行,也支持在没有 GPU 的情况下使用 CPU(请参见下面的说明)。
在没有网络连接的情况下,使用 LLM 的强大功能,可以对文档提问。100% 的隐私保护,没有任何数据会离开您的执行环境。您可以摄取文档并在没有网络连接的情况下提问!
使用 LangChain、Vicuna-7B(以及更多!)和 InstructorEmbeddings 构建,使用了私有的 GPT 模型。
环境设置
安装 conda
shell1