【问题标题】:How to use GPT-J for paraphrasing如何使用 GPT-J 进行释义
【发布时间】:2021-12-16 11:23:17
【问题描述】:
谁能告诉我如何使用 GPT-J 模型进行文本释义。由于生成文本很容易,但释义?
我需要对释义数据集进行微调吗?或者我可以只使用少量的投篮训练吗?
【问题讨论】:
标签:
huggingface-transformers
gpt
【解决方案1】:
GPT 只做一件事:完成您提供给它的输入。这意味着您用来控制 GPT 的主要属性是输入。
处理某个用例的一个好方法是明确写出模型的任务应该是什么 + 插入所需的变量 + 初始化任务。
在您的用例中,这将是这样的(使用 GPT-J 的实际演示):
输入:
Paraphrase the sentence.
Sentence: The dog was scared of the cat.
Paraphrase:
输出:
Paraphrase the sentence.
Sentence: The dog was scared of the cat.
Paraphrase: The cat scared the dog.