OpenAI开放ChatGPT模型API的进一步展开说明

# OpenAI ChatGPT Python API详细教程

## 介绍

ChatGPT是一款非常强大的语言生成模型，它凭仗其出色的语言生成能力，在回答各种问题时几近能够给出高质量的回复。许多人都已开始使用ChatGPT来提高工作效力，因此学习使用这个模型非常有必要。

本文将详细演示如何通过调用OpenAI API来使用ChatGPT模型。

## ChatGPT

ChatGPT是基于生成模型GPT构建的，在生成符合语法的流畅文本的同时，还可以够遵守人类指令来完成各种任务。相比其他NLP工具，ChatGPT有以下两个优点：

1. 一个模型完成多种任务：大部份NLP工具只能完成单个任务，而ChatGPT通过”文本补全”的方式工作，并且能够理解人类指令，因此能够完成几近所有类型的文字类工作，例如摘要、翻译、创作等。

2. 基于对话上下文回复：之前的模型大多只能对当前输入给出答复，而ChatGPT可以记住已进行的对话内容，基于上下文来做出回复，因此不会出现”前言不搭后语”的情况。

这些能力主要来源于模板(prompt)技术的利用，模板技术通过使用人工编写的模板来引导模型完成任务，例如”将下面的文本翻译为英文：{文本}”、”为下面的文本生成摘要：{文本}”等。如果模型能够遵守模板中的指令，那末一个模型就可以完成各种任务。在ChatGPT中，只需要将已进行的对话内容都拼接到模板中，模型就能够基于完全的上下文来生成回复。

ChatGPT的智能程度如何呢？

ChatGPT本质上是一个生成语言模型，善于生成符合语法的文本。由于它在大量的互联网数据上进行了训练，因此对绝大部份问题，都可以通过”拼凑”在训练进程中看过的相关信息来生成回答，对没见过的问题也能够凭仗生成能力给出以假乱真的回复。但是模型不可能真的记住所有看过的信息，所以”丢失细节”和”记忆错乱”就没法避免。另外，即便引入思惟链 (CoT) 和用代码文本训练增强模型的逻辑性，但是其推理能力照旧薄弱，乃至会犯一些低级的逻辑毛病。

因此，目前ChatGPT的工作模式更接近因而”模仿”和”拼凑”看过的信息，而不是真的在”思考”，还远达不到真正意义上的人工智能。

## OpenAI接口

### 准备工作

除通过网页端与ChatGPT进行对话之外，更常见的是通过OpenAI提供的接口与各种模型交互。对Python用户，首先需要安装官方提供的openai包：`python3 -m pip install openai`。

OpenAI接口使用API key来验证用户身份，因此在注册好账户以后，我们首先需要申请一个API key，后续所有的调用都需要使用这个秘钥来进行。

目前注册账户后就会取得一定的不要钱额度可供使用。

### 可以使用的模型

OpenAI提供了许多语言模型可供使用，它们能力各异，价格也区别，我们需要根据实际需求选择适合的模型，其中一些模型还支持用户微调。

OpenAI目条件供的模型列表以下：

– `gpt⑷`
– `gpt⑷⑶2k`
– `gpt⑶.5-turbo`
– `text-davinci-003`
– `text-davinci-002`
– `code-davinci-002`
– `text-curie-001`
– `text-babbage-001`
– `text-ada-001`
– `davinci`
– `curie`
– `using-davinci-002`

其中，OpenAI推荐使用`gpt⑶.5-turbo`模型，由于它性能优良且本钱很低，虽然它是设计用于对话场景的，但是在文本补全方面也表现优良。

### 文本补全接口

文本补全（也就是文本续写）是GPT模型最善于的工作。我们只需要提供一段模板（prompt）作为引导，模型就能够基于上下文或模板中的模式来补全文本，因此只需要使用文本补全接口就能够完成各种任务。

下面是一个使用文本补全接口的例子，我们为新开张的饭店写一条广告（使用gpt⑶.5-turbo模型）：

“`python
import openai

response = openai.Completion.create(
engine=”davinci”,
prompt=”欢迎来到新开张的淮扬菜饭店！我们具有一流的厨师团队，和最新鲜的食材，为您烹饪出最正宗的淮扬菜肴！让您在这里享遭到家的味道！”,
max_tokens=100,
temperature=0.2,
top_p=1.0,
frequency_penalty=0.0,
presence_penalty=0.0
)

print(response.choices[0].text.strip())
“`

这里我们使用模型模板的方式来写广告，模型会根据模板的语法和样式生成适合的内容。需要注意的是，模型生成的内容是有一定的随机性的，即便使用相同的模板，每次运行都可能产生区别的结果。可以通过调剂`temperature`参数来控制输出的随机性，使其更稳定。

运行上述代码，模型输出的结果可能会像这样：

“`
新开张的淮扬菜饭店，为您提供正宗的淮扬菜，以大江大河的男儿豪情，用心的做，用心的味。师傅们悉心照顾饭菜，确保菜品的口感与营养，打造出一桌美味佳肴，让你有过目不忘的味道。淮扬菜有极高的水平，选自大江南北的食材。我们具有一流的厨师团队，和最新鲜的食材，精心为您烹饪出最正宗的淮扬菜肴！欢迎您的光临，让您在这里享遭到家的味道！
“`

可以看到，模型根据我们提供的模板生成了一段语法正确、符合期望的广告文本。

除模型和模板，我们还可以设置一些其他参数来影响生成的结果。下面是一些经常使用的参数：

– `max_tokens`：生成文本的最大token数量。每一个模型都有一个限制，输入的模板长度加上`max_tokens`不能超过这个限制。
– `temperature`：采样温度，介于0到1之间的一个值。较高的值（如0.8）会使得输出更加随机，较低的值（如0.2）则会使得输出更加肯定。通常情况下，`temperature`和`top_p`两个参数只需要修改其中之一便可。
– `top_p`：一种替换温度采样的方法，称为核采样（nucleus sampling）。它只斟酌积累几率质量大于指定值`top_p`的token，可以避免输出过于随机。
– `stop`：停止序列，可以设置一个或多个，当模型生成到停止序列时就会停止，并且输出结果中不会包括停止序列。

使用这类”文本输入-文本输出”的方式可以很方便地完成各种任务。我们只需要构建好一个适合的模板，模型就可以根据模板和上下文生成回答。

在构建模板时，有一些基本的原则需要遵守：

1. 清晰地展现和描写：通过指令描写、样例或二者的结合清晰地表明需求。例如，如果要求摘要一段文本，就要明确指明任务并给出一些示例。
2. 提供高质量的数据：如果要构建一个分类器或让模型遵守特定的模式，就需要提供足够的示例。这些示例应当是高质量的，不应当出现种别或拼写毛病，并且要有代表性，能够让模型理解需要遵照的模式。
3. 设置适合的参数：例如`temperature`和`top_p`可以控制生成文本的肯定性，如果期望的回复只有一个正确答案，就能够将这两个参数设置较小，反之如果希望结果具有多样性，就能够将它们设置较大。

总的来讲，通过文本补全接口，我们只需要关注如何构建一个好的模板，一个高质量的模板应当能够提供足够的信息来引导模型。在实践中，可以根据需要进行调剂和优化。

## 对话补全接口

与文本补全接口类似，对话模型可以通过对历史对话内容的理解来生成后续消息。虽然对话补全接口是为多轮对话场景设计的，但它也能够用于单轮对话（作为文本补全接口的退化情势）。

例如，我们可以继续进行下面的对话：

“`python
import openai

response = openai.Completion.create(
engine=”davinci”,
messages=[
{“role”: “system”, “content”: “你是ChatGPT，一个由OpenAI训练的大型语言模型。请以第三人称的视角来表达要求。”},
{“role”: “user”, “content”: “请根据以下要点，给出一个关于苏轼的简介：”},
{“role”: “assistant”, “content”: “苏轼，字子瞻，号东坡居士，以字行，中国宋朝文学家、字画家、饮食家、医学家、博物家、音乐家、戏剧家、政治家、历史家，和明朝理学家。”},
{“role”: “user”, “content”: “谢谢！”}
]
)

print(response.choices[0].message.content)
“`

在上面的例子中，我们使用了模型模板的方式来生成回答。在这个对话场景中，模型被指定为”ChatGPT”。对话的首个消息是由系统角色发送的，用于建立对话的背景。然后是交替出现的用户和助手消息。

系统消息负责设置，用户消息负责引导模型行动，助手消息负责存储模型的回复。

运行上述代码后，模型输出的结果可能会像这样：

“`
苏轼，字子瞻，号东坡居士，是中国宋朝的文学家、字画家、饮食家、医学家、博物家、音乐家、戏剧家、政治家、历史家，和明朝的理学家。
“`

可以看到，模型根据对话上下文和我们提供的模板生成了符合预期的回复。

与文本补全接口类似，在对话补全接口中，除模型参数和模板以外，还有一些其他参数也会影响回复的结果。经常使用的参数和它们的作用以下所示：

– `max_tokens`：生成文本的最大token数量。输入的对话历史加上`max_tokens`不能超过模型的限制。
– `temperature`：采样温度，介于0到1之间的一个值。较高的值（如0.8）会使得输出更加随机，较低的值（如0.2）则会使得输出更加肯定。通常情况下，`temperature`和`top_p`这两个参数只需要修改其中之一便可。
– `top_p`：核采样（nucleus sampling），只斟酌积累几率质量大于指定值`top_p`的token。该参数与`temperature`通常只修改其中之一。
– `stop`：停止序列，可以设置一个或多个字符串，当模型生成到这些字符串时就会停止。
– `presence_penalty`：值介于⑵.0到2.0之间，正数表示惩罚那些已出现过的token，鼓励模型生成新内容，避免大段重复。
– `response_penalty`：值介于⑵.0到2.0之间，正数表示根据新生成token在文本中的频率进行惩罚，下降重复同一行的可能性。

通过对话补全接口，我们可以很方便地完成各种对话任务。只需构建适合的对话历史，并使用适当的指点语言来引导模型回答问题。

在构建对话历史时，有一些基本原则需要遵守：

1. 清晰展现和描写：通过指令描写、样例或二者的结合清晰地表明需求。例如，如果要求回答一个问题，就要明确描写该问题并给出几个示例。
2. 提供高质量的数据：如果需要构建一个分类器或让模型遵守特定的模式，就需要提供足够的示例。这些示例应当是高质量的，不应当有种别或拼写毛病，并且应当具有代表性，能够让模型理解需要遵守的模式。
3. 设置正确的参数：例如`temperature`和`top_p`可以控制模型生成文本的肯定性。如果期望的回答只有一个可能答案，可以将这两个参数设置较小，如果希望回答更多样化，可以将它们设置较大。

通过对话补全接口，我们只需要关注如何构建一个好的对话历史和适合的语言指点，一个高质量的对话历史应当能够提供足够的信息来引导模型生成回答。

## 嵌入表示接口

通过OpenAI API，我们可以取得文本的嵌入表示（embeddings），这类表示对文本之间的关联程度特别敏感，因此可以用于搜索、聚类、推荐、异常检测、多样性度量和分类等任务。嵌入向量之间的距离可以用于度量文本之间的关联程度，距离越小表示关联程度越高。

要取得文本的嵌入表示非常简单，只需要将文本和嵌入模型 ID（例如`text-embedding-ada-002`）传递给接口便可：

“`python
import openai

response = openai.Embedding.create(
model=”text-embedding-ada-002″,
documents=[“苏轼”, “杜甫”, “白居易”, “王维”]
)

embeddings = response[“embeddings”]
print(embeddings)
“`

接口的输出将会是一个嵌入向量的列表，每一个向量表示一个文本。可以根据嵌入向量之间的距离来判断文本之间的关联程度，距离越小表示关联程度越高。需要注意的是，返回的嵌入向量已被规范化为长度为1，所以只需要使用向量点积就能够计算余弦类似度，排序与欧几里得距离一致。

现在，我们可使用这些嵌入表示来完成各种任务，例如搜索、聚类、推荐等。

OpenAI推荐使用text-embedding-ada-002模型，它性能更好、更低价且使用更方便。

## 总结

OpenAI提供的语言模型可以理解并遵守人类指令来生成语言，并在处理各种任务上表现出了很强大的能力。本文中我们展现了一些常见任务的例子，还有更多功能等待读者去发现。

*以上为改写内容，希望对您有所帮助*

OpenAI开放ChatGPT模型API的常见问答Q&A