ChatGPT APIs和管理会话上下文内存

目前，ChatGPT由最先進的OpenAI語言模型驅動。雖然OpenAI已經將API提供給這些模型，但它並不在本質上管理對話上下文和記憶。

传统上，聊天机器人开发框架面临的挑战之一是管理对话记忆，也被称为会话上下文。

最好的说明方式，是通过以下示例对话。用户提出了三个问题，第一个问题是直接且明确的问题。

问题二和三都是暗示问句，通过第一个问题中的上下文以暗示和略微模糊的方式进行引用。

问题三在暗示上下文方面更加模糊。

利用LLM相关工具如少样本学习和文本摘要，可以轻松管理对话的记忆和上下文。

以下是一些实际的例子...

目前的ChatGPT模型有：gpt-4、gpt-3.5-turbo、gpt-4-0314和gpt-3.5-turbo-0301。这些模型可以通过API调用仅几行代码即可访问。

如下所示，只需几行代码，您就可以输入一系列信息，模型就会返回文本输出：

pip install openai

import os
import openai
openai.api_key = "xxxxxxxxxxxxxxxxxxxxxxx"
completion = openai.ChatCompletion.create(
  model="gpt-3.5-turbo", 
  messages = [{"role": "system", "content" : "You are ChatGPT, a large language model trained by OpenAI. Answer as concisely as possible.\nKnowledge cutoff: 2021-09-01\nCurrent date: 2023-03-02"},
{"role": "user", "content" : "How are you?"},
{"role": "assistant", "content" : "I am doing well"},
{"role": "user", "content" : "How long does light take to travel from the sun to the eart?"}]
)
print(completion)

用于输出：

{
  "choices": [
    {
      "finish_reason": "stop",
      "index": 0,
      "message": {
        "content": "It takes about 8 minutes and 20 seconds for light to travel from the sun to the earth.",
        "role": "assistant"
      }
    }
  ],
  "created": 1678039126,
  "id": "chatcmpl-6qmv8IVkCclnlsF5ODqlnx9v9Wm3X",
  "model": "gpt-3.5-turbo-0301",
  "object": "chat.completion",
  "usage": {
    "completion_tokens": 23,
    "prompt_tokens": 89,
    "total_tokens": 112
  }
}