在推荐系统中利用预训练的大型语言模型
利用大型语言模型进行预训练推荐系统
最近，推荐系统通过运用大型语言模型（LLM）已经得到了改进，能够提供更加详细和个性化的建议。然而，将LLM的综合知识和推理能力应用到这些系统仍然存在困难。本论文介绍了一种名为RecSysLLM的新型模型，这是一种利用LLM的推荐模型。RecSysLLM保留了LLM推理能力和知识，并添加了与推荐相关的知识。
通过处理数据、训练模型和进行推理的特殊方法来完成此操作。作为结果，RecSysLLM可以在一个单一且高效的系统中利用LLMs的能力来推荐物品。标准度量和实际情境的测试表明，RecSysLLM效果良好。RecSysLLM是一种希望的方法，可以充分利用预训练语言模型来创建推荐系统。
使用大型语言模型增强推荐系统
推荐系统（RS）是个性化建议的重要工具，广泛应用于在线购物和流媒体服务等领域。语言处理的新发展带来了大型语言模型（LLM），在理解和生成与人类书写相似的文本方面表现出色。RS在明确定义的范围内非常出色和高效，但对于未曾见过的数据，它们无法适应和提供建议。
另一方面，LLMs具有上下文意识，并且能够很好地适应未见过的数据。将这些技术结合起来，可以提供一个强大的工具，以在缺乏大量数据时给出与上下文相符的相关建议。本提案探讨了如何将LLMs添加到RSS中。它引入了一种名为"检索增强推荐系统"的新方法，该方法利用了基于检索和生成的模型的最佳部分，以提高RSs提供相关建议的能力。
增强LLMs以构建个性化推理图
推荐系统的设计目的是给用户提供与他们相关的建议。然而，这些系统常常难以解释它们的决策，并理解用户行为和个人资料之间的更深层次联系。本文介绍了一种使用大型语言模型（LLMs）创建个性化推理图的新方法。这些图使用因果关系和逻辑连接将用户的个人资料和行为相连接，更容易理解他们的兴趣。
我们的方法被称为LLM推理图（LLMRG），包括四个部分：
- 链式图推理
- 分歧延伸
- 自我验证和评分
- 改善知識庫
被创建的推理图然后被转化为代码，使用图神经网络。这段代码被用作额外的输入，以改进传统推荐系统，而无需获取更多关于用户或物品的信息。
我们的方法展示了如何通过个性化的推理图使推荐系统更加合乎逻辑和易于理解。LLMRG让推荐系统从传统的推荐系统和LLMs创建的推理图中获益。我们展示了LLMRG在标准指标和实际场景中的良好表现，可以提高基本推荐模型的效果。
推荐系统的大型语言模型教程
基础模型，例如大型语言模型（LLMs），已经极大地改进了许多研究领域。它们对于推荐系统尤其有用，能够提供个性化的建议。LLMs可以处理推荐系统中的不同任务，比如预测评分、按顺序推荐、提供直接的建议和生成解释。它们通过将这些任务转化为语言指令来完成。
LLMs（Language Model Models）也非常擅长理解自然语言。这意味着它们可以理解用户的偏好、物品的描述以及信息的上下文，从而提供更好、更相关的建议。这使得用户感到更加满意和投入。
本教程将教您有关Foundation模型（如LLM）用于推荐的知识。我们将会讨论推荐系统是如何从简单模型演变为复杂模型，再到大型模型的。我们还将讨论LLMs是如何使得生成推荐成为可能，这与传统的区分推荐的方式不同。
我们还将向您展示如何构建使用LLM的推荐系统。我们将涵盖这些系统的许多方面，包括数据准备、模型设计、模型的预训练、微调和提示，以及从多种模式和任务中学习以及关于这些系统的可信度方面，如公平性和透明度。
评估和限制
事前训练的语言模型（PLMs），如BERT和GPT，擅长理解文本并对世界有很多了解。这使得它们非常适合适应不同的任务。在本研究中，我们建议将这些强大的PLMs用作推荐系统。我们使用提示来将基于会话的推荐任务转换为多词语填空任务。
我们在零样本和微调设置下，对一个推荐电影的数据集进行了这种方法的测试。在零样本设置中，没有可用的训练数据。我们发现，与仅仅随机推荐相比，预训练语言模型（PLMs）表现更好。然而，我们也注意到在使用PLMs作为推荐器时存在着语言上的强烈偏见。
在微调设置中，有一些训练数据可用。这减少了语言上的偏见，但PLM并没有像GRU4Rec等传统推荐系统表现得那么好。
我们的发现表明，使用这种新方法存在机会，但也需要解决一些挑战。
非常感谢您加入我们的探索之旅！如果您想深入了解并阅读更多关于这个主题的见解和文章，请访问烘焙人工智能博客。我们随时欢迎您的反馈和想法。继续探索并拓展您的视野吧！
图像来源: https://medium.com/microsoftazure/%E9%80%9A%E8%BF%87-llms-%E5%A2%9E%E5%BC%BA%E7%9A%84%E6%8E%A8%E8%8D%90%E7%B3%BB%E7%BB%9F-fe1fc8e23a58
订阅我们的新闻简讯。
用每日人工智能和营销新闻征服你的一天。
给那些拍掌的手一次锻炼！记住，你最多可以拍50次手——让我们发出噪音（或者说，点击）！
