openai extract keywords的进一步展开说明

GPT⑶ 关键词提取的微调

如果你一直关注这个博客，你可能已注意到我们对 Mojo 和 GPT⑶ 结合在一起提供的可能性的兴奋。几个星期以来，我们一直在研究 OpenAI 提供的工具，以使我们的数字助手具有新的能力：增强用户学习、进行更自然的对话，固然，一如既往地增强共情。

最近，我们决定使用 OpenAI 的微调工具，探索它对我们用例的价值。我们从之前一篇文章中已向大家介绍过的简单用例开始：新闻文章的关键词提取。

微调进程

微调所需的数据由 Hoomano 团队生成。在一个共享文档中，每一个协作应包括以下内容：

• 一篇新闻文章：“文章：$title。$summary。
• 关键词：

他们可以为这篇文章想象出的最好关键词。

我要求团队提供区别语言的协作，这样我们的模型就能够学习怎么以相同语言的关键词回答任何语言。

与提示相对应的新闻文章均以“文章：”开头，以“关键词：”结尾，以便我们的模型有起始和停止标记。

文档建议准备几百个标记数据。对这个初步测试，我们实际上只有一百个。

完成这个数据库后，我只需要运行 OpenAI 的 CLI 准备数据工具，将其转换为所需的 jsonL 文件，并使用微调工具从 Curie 引擎得到我的特殊模型。

我在这里一定要为 OpenAI 的团队设计出这些工具而鼓掌。开发者体验真的非常好！

评估

免责声明：本实验使用的数据量不足以被视为科学进程。但是，这是我们这个时候可以做的最好的，我们认为这对初步验证来讲已非常充分了。

一旦我们完成了模型的微调，团队就会收到一个由 20 对 {新闻文章，关键词} 组成的唯一文档。他们被要求给每对关键词评分，分数从 0 到 5：

• 0 表示他们认为关键词与文章不相关；
• 5 表示他们认为关键词与文章非常相关。

在这 20 对中，有 5 对直接从我们手动标注的数据集中提取出来，这是我们的对比样本。然后，剩下的文章是由我选择的 5 篇新的新闻文章，模型（和团队）从未见过，每篇文章重复 3 次，每次关联的关键词都是由 Davinci 引擎、Curie 引擎或我们的 Curie 微调模型生成的。

评委们不知道关键词的来源。

如果关键词是一个句子，不是与文章相同的语言，或包括奇怪的字符，唆使是将其评为不好的分数。

根据引擎预测得出的关键词一定要进行清算，否则关键词中常常会有分号、逗号等分隔多个（通常相同的）关键词的字符，这没成心义。这个进程可以在生产中完成，不会有太大问题。可使用类似以下的 Python 代码进行清算：

keyword.split(“,”)[0].split(“;”)[0].split(“

“)[0]

结果

这里是结果的摘要：