快速迭代prom相关的学习笔记,字数限制和迭代提示词(openai prompt字数限制)
OpenAI prompt字数限制
ChatGPT是一个非常受欢迎的自然语言处理模型，最近由于使用人数众多，服务器的负荷变得过大。为了解决这个问题，OpenAI对ChatGPT的会话时效和输出时间做了更严格的限制。
为了控制输出的字数，OpenAI提出了一个”限制字数咒语”，可以在prompt中加入一些短语来告知模型要输出多少个字。例如，你可以在prompt中添加”要求20个字左右”来告知模型希望输出的结果在20个字左右。
但是，即便加入了这样的控制字数的咒语，模型的输出依然可能超越预期。GPT模型对控制汉字的数量其实不十分明确，所以我们可能需要不断调剂代码和参数，以取得我们想要的输出。
ChatGPT解限和限制字数咒语（英文版）
为了应对输出时间超时的问题，OpenAI采取了更严格的限制措施。他们推出了一个英文版的”限制字数咒语”，这个咒语可以在调用完ChatGPT API以后使用，用于限制输出的长度。
在调用完ChatGPT API以后，你可以在结果中找到一个叫做”choices”的数组，每一个数组元素对应一条回答。每一个回答都有一个属性叫做”generated_text”，表示这个回答生成的文本内容。
你可使用”限制字数咒语”来控制这个文本的长度。例如，在对模型的回答使用”要求20个字左右”这个咒语以后，模型的回答会被限制在20个字左右。
调剂字数的示例
为了更好地说明字数调剂的进程，让我们来看一个具体的例子。
假定我们希望使用ChatGPT来帮助我们编写一篇关于帮助他人的文章。我们的prompt任务是：”请帮我写一篇2500字以上的文章，内容包括如何帮助他人，需要包括以下几个关键点”。
这个任务的字数限制很大，我们可能需要使用”限制字数咒语”来确保输出的长度在我们想要的范围内。该怎样使用这个咒语呢？
首先，我们可以尝试使用一个较大的限制字数，比如”要求3000字以上”。然后，我们调用ChatGPT API并将这个限制字数咒语利用于返回的结果。
如果结果太长，超过了我们希望的字数范围，我们可以继续调剂限制字数咒语，比如减小到”要求2500字左右”。然后，我们再次调用API并利用这个新的限制字数咒语。
通过不断调剂限制字数咒语，我们终究可以取得满足我们要求的字数范围内的文章。
