先做个广告:如需代注册帐号或代充值Chatgpt Plus会员,请添加站长客服微信:muhuanidc
来源 | 机器之心 ID | almosthuman2014
几个月来,ChatGPT、GPT⑷ 等大模型陆续发布。这些模型表现出了强大的出现能力,但模型生成的结果是随机的,时好时坏,部份缘由与 Prompt 的设计密切相关。很多人将 Prompt 比喻为大模型的咒语,在引导模型生成内容方面影响很大,怎么选择 Prompt 成了每一个 AI 研究者关注的问题。最近微软官方出了一份教程,该教程介绍了 Prompt 设计和工程中的一些高级玩法,涵盖系统消息、少样本学习、非聊天场景等内容。每部份内容都有技术介绍和示例展现,下面我们看看具体内容有哪几种。系统消息包括在 Prompt 的开头,用于为模型提供上下文、说明或与用例相关的其他信息。用户可以通过系统消息描写模型应当回答甚么、不应当回答甚么,和定义模型回复的格式。- 上表中 Assistant 是一个由 OpenAI 训练的大语言模型。
- Assistant 是一个智能聊天机器人,旨在帮助用户回答问题。要求模型只能使用给定的上下文来回答问题,如果不肯定答案,你可以说「我不知道」。
- Assistant 是一个智能聊天机器人,例如其能帮助用户回答税务相关问题。
- 又比如你是一个 Assistant,旨在从文本中提取实体。用户将粘贴一串文本,你将以 JSON 对象的情势回应你从文本中提取的实体。
{
"name": "",
"company": "",
"phone_number": ""
}
上面就是关于系统消息的介绍,不过一个重要的细节是,即便是设计良好的系统消息,模型仍有可能生成与系统消息指令相矛盾的毛病回复。让语言模型适应新任务的一种常见方法是使用小样本学习。小样本学习提供了一组训练样本作为 Prompt 的一部份,以便为模型提供额外的上下文信息。用户和 Assistant 之间的一系列信息(以新的 Prompt 格式编写)可以作为小样本学习的示例。这些示例可用于引导模型以某种方式做出响应、摹拟特定行动并为常见问题提供种子答案。
虽然当前大模型的主要利用场景是对话生成场景,但也能够用在非对话场景。例如,对情感分析场景,你可能会使用以下 Prompt:一般来说,信息在 Prompt 中出现的顺序很重要。由于 GPT 类模型是以特定方式构建的,该构建进程定义了模型对输入的处理方式。研究表明,在 Prompt 开始时告知模型你希望它履行的任务,然后再共享其他上下文信息或示例,可以帮助模型产生更高质量的输出。模型容易遭到最新偏差的影响,在这类情况下,末尾 Prompt 信息可能比开头 Prompt 信息对输出的影响更大。因此,在 Prompt 末尾重复指令值得一试。这类情况是指在 Prompt 末尾包括几个单词或短语以取得符合所需情势的模型响应。例如,使用诸如「Here’s a bulleted list of key points:
- 」之类的 Prompt 可以帮助确保输出格式为项目符号列表。为 Prompt 添加语法,例如标点符号、标题等,这样做使输出更容易解析。下面示例中,区别的信息源或 step 之间添加了分隔符(在本例中为 ---)。这类操作允许使用 --- 作为生成的停止条件。另外,部份标题或特殊变量以大写情势出现以进行辨别。如果将任务分解为更小的 step,大型语言模型 (LLM) 通常会表现得更好。注意,这里使用了语法来辨别各个部份并对输出进行初始化。在这个简单的例子中,将任务从一个 step 分解为两个 step 结果其实不很明显,但是当试图对包括许多事实声明的大块文本进行此操作时,将任务分解会产生显著的差异。这是分解任务技术的一种变体。在这类方法中,不是将任务拆分为更小的 step,而是唆使模型响应逐渐进行并显现所有触及的 step。这样做可以减少结果不准确,并使评估模型响应更加容易。在该方法下,本文建议提供给模型真实数据。一般来说,原始数据越接近终究答案,模型需要做的工作就越少,这意味着模型出错的机会就越少。在下面示例中,系统消息提供了最新的文章,然后要求模型给出一些初期客户,模型准确的给出了答案。除此之外,微软在这份指南中还介绍了关于 Prompt 其他技能,大家可之前去原文查看,获得更多信息。原文链接:https://learn.microsoft.com/en-us/azure/cognitive-services/openai/concepts/advanced-prompt-engineering?pivots=programming-language-chat-completions#specifying-the-output-structure基于ChatGPT,论文写作工具
围绕 ChatGPT,赚了点小钱
国内可用 ChatGPT 客户端下载
数据分析入门:统计学基础知识总结
ChatGPT 系列研究报告(50个PDF),资料微信群
多是全网最全的速查表:Python Numpy Pandas Matplotlib 机器学习 ChatGPT