用Claude 100k和GPT 16k改善Reddit摘要

释放更大上下文窗口的威力

这是建立使用ChatGPT API的Reddit帖子总结器的后续。请参阅该文章以了解有关我如何建立应用程序的第一个版本的一些背景和信息。

2023年6月13日

OpenAI 推出了一些令人兴奋的更新，提高了其 GPT 模型的功能，并使其更加经济实惠。其中的关键变化包括引入了新的聊天完成 API 的函数调用功能，更新并更可控的 GPT-4 和 GPT-3.5 Turbo 版本，以及一个新的 16k 上下文版本的 GPT-3.5 Turbo，提供了标准 4k 版本四倍的上下文长度。

功能调用功能允许开发人员通过连接GPT的能力与外部工具和API创建更交互式的应用程序。它可以将自然语言转换为函数调用和API调用，从文本中提取结构化数据，并使用自然语言与数据库进行交互。

重大成本削减也已宣布。由于系统效率的提高，流行的文本嵌入ada-002嵌入模型的成本降低了75％。最受欢迎的聊天模型gpt-3.5-turbo的输入标记也降低了25％的成本。

Reddit GPT Summarizer已经更新以支持新模型。

介绍

在数字讨论平台的广阔、不断演变的景观中，Reddit是一座装满思想、辩论和叙述的宝库。这些帖子通常由数百、甚至数千条评论组成，对于那些寻求提取最重要的观点或总体主题的人来说，可能是一个令人望而生畏的挑战。为解决这个问题，我开发了一个叫做Reddit GPT Summarizer的应用程序，旨在解析复杂内容并提供连贯、简洁的Reddit帖子摘要。然而，技术和人工智能的动态本质需要持续的创新。

以下是保持 HTML 结构的简体中文翻译： 主要增强功能围绕着人工智能领域两个先驱公司 OpenAI 和 Anthropic 的高级语言模型集成。最初，Reddit 摘要器只采用了 ChatGPT。虽然 ChatGPT 在处理短串时表现出色，但其原始版本中 GPT-4 的 8,192 令牌上下文窗口限制使得有效总结较长的讨论帖存在困难。OpenAI 刚刚发布了新的 GPT-3.5 16k 模型。 GPT-4 32k（32,768 个令牌）即将推出，并已对特定用户和通过 Azure 商业账户提供。

人类智能公司的新Claude模型拥有惊人的10万令牌上下文窗口（目前最大的窗口），这一特性有可能彻底改变Reddit摘要器的表现。这些增强功能使应用能够深入了解广泛的帖子、理解更大的文本画布上的关系和主题，并生成全面的摘要。

Reddit摘要现在已经具备处理更广泛的Reddit内容的能力，生成的摘要更加连贯和信息丰富。我期待继续使用这些语言模型进行实验，并带来可能的增强。