介绍 PocketLLM Beta: Windows 和 Mac 用户的终极 AI 中心

使用私人的离线神经数据库实现个性化的检索增强生成（RAG），可选择与ChatGPT集成。在此处下载。

今天，我们很高兴地宣布ThirdAI的PocketLLM的β版正式推出。PocketLLM是一款免费、用户友好的Mac和Windows LLM（大型语言模型）应用程序。PocketLLM将ThirdAI独特的神经数据库技术与实时微调和强化学习相结合，在您的个人设备（笔记本电脑/台式机）上本地完成，以保护您的隐私。用户可以上传数千页文本（PDF或DOCX），在几分钟内在CPU上训练完整的LLM。

我们大约两个月前推出了PocketLLM应用的alpha版本，反响非常积极。现在，我们要将其提升到一个新的水平。新的PocketLLM是一个全面的GenAI生态系统，可以精确控制检索增强生成（RAG）。它还拥有不断扩展的模型市场，用户可以访问各种专业的预训练模型。此外，PocketLLM还提供与OpenAI的ChatGPT的集成，用于生成最终答案。与ChatGPT的集成需要向OpenAI的API发起网络调用，完全可选。

用户指南

您可以在这个链接找到完整的用户指南。这个体积为250MB的紧凑应用程序包含高级的GenAI工具，可以将大量的原始文本（PDF或DOCX）转化为领域专家AI代理。我们的动态稀疏技术可以利用您普通笔记本电脑的CPU，在几分钟内快速处理数千页。下面的两个图示介绍了PocketLLM Beta版本的用户界面和可用选项。通过PocketLLM，您可以利用一个不断增长的预训练模型集市，教授模型新的关联，提供实时增强学习以改善性能，并保存和分享模型以进行进一步增强或部署。

凭借一系列先进的功能，PocketLLM可以说是地球上最全面的GenAI生态系统应用程序。

释放个性化AI代理：PocketLLM对分散和私密AI的愿景

在当前的人工智能领域中，少数拥有昂贵专用硬件访问权限的公司具备操作庞大人工智能模型的能力。这种情况导致用户需将数据从面向用户的硬件传输至准备好的人工智能硬件，从而损害了隐私和控制权。在ThirdAI，我们开发了一种高效的类脑动态稀疏算法，使我们能够在无需专用硬件的情况下训练任意规模的神经网络。通过我们的PocketLLM工具，您可以在笔记本电脑和台式机中的简单CPU核心上构建复杂的人工智能模型。您可以灵活选择用于预训练、有监督数据微调甚至实时强化学习引导模型的文本语料库。您可以对模型进行优化并与他人共享，为定制化创造持续的改进循环。PocketLLM通过将数据保留在您的硬件中（无论是在本地还是在虚拟专用云上），确保了“空隔离”的数据隐私。