如何安装和使用PrivateGPT(100%私人)

与您的医生进行完全本地聊天(100%免费)

👨🏾‍💻 GitHub ⭐️| 🐦 Twitter | 📹 YouTube | 👔LinkedIn | ☕️Ko-fi

Image from the Author

PrivateGPT是一个生产就绪的AI项目,利用大型语言模型(LLMs)的强大功能,即使在没有互联网连接的情况下,也可以用于询问有关您文档的问题。100%私密,您的数据不会在任何时间离开执行环境。

无论我创建关于 RAG 应用程序的博客文章还是视频,我都会收到同样的问题:“是否可能在本地运行而不使用 OpenAI API?” 这篇文章就是对这个问题的回答,是的,可以在本地运行,并且完全免费使用开源模型,不仅如此,一旦你下载了相关的大型语言模型(LLMs),也完全离线可用。

默认情况下,privateGPT使用的是以下事物。

  • LlamaIndex 作为一个数据框架。
  • 默认情况下将Qdrant作为VectorStore。
  • Mistral 7B 模型在 Huggingface 中默认为 LLM。
  • BGAA /bge-small-en-v1.5 作为默认的嵌入模型。
  • Gradio 用于用户界面

详细信息和简易安装,请访问官方文档。文档写得很好且易于理解。

现在,你知道有一个叫做privateGPT的东西,还有非常好的文档,你可以自己尝试一下。但是,如果你更喜欢视频演示,我已经制作了一段关于如何在本地安装和使用privateGPT的视频。

👨🏾‍💻 GitHub ⭐️| 🐦 Twitter | 📹 YouTube | 👔LinkedIn | ☕️Ko-fi 保持HTML结构的情况下,将以下英文文本翻译为简体中文:

推荐的YouTube播放列表:

  1. LangChain-Framework-构建-在-LLMs-周围
  2. 30天的Databricks
  3. LlamaIndex 播放列表

感谢您抽出时间阅读此帖!

请确保留下你的反馈和评论。下一篇博客见,敬请关注📢

2023-12-26 04:16:00 AI中文站翻译自原文