【发布时间】:2021-08-05 14:50:13
【问题描述】:
我有 deeppavlov 微调模型。有没有办法转换成变形金刚可以使用的模型(https://github.com/huggingface/transformers)?
【问题讨论】:
标签: pytorch huggingface-transformers deeppavlov
我有 deeppavlov 微调模型。有没有办法转换成变形金刚可以使用的模型(https://github.com/huggingface/transformers)?
【问题讨论】:
标签: pytorch huggingface-transformers deeppavlov
下面是如何从 DeepPavlov 模型中获取 HF Transformers 模型的方法:
from deeppavlov import build_model, configs
m = build_model(configs.classifiers.insults_kaggle_bert_torch, download=True)
m.pipe 包含管道的所有元素:
[(([], ['x']),
['bert_features'],
<deeppavlov.models.preprocessors.torch_transformers_preprocessor.TorchTransformersPreprocessor at 0x7f9b0414e550>),
(([], ['bert_features']),
['y_pred_probas'],
<deeppavlov.models.torch_bert.torch_transformers_classifier.TorchTransformersClassifierModel at 0x7f9ae5625ac8>),
(([], ['y_pred_probas']),
['y_pred_ids'],
<deeppavlov.models.classifiers.proba2labels.Proba2Labels at 0x7f9ae56221d0>),
(([], ['y_pred_ids']),
['y_pred_labels'],
<deeppavlov.core.data.simple_vocab.SimpleVocabulary at 0x7f9abddfe470>)]
所以,您可以通过
获得 TorchTransformersClassifierModelm.pipe[1][2]
并从中获取 HF Transformers 模型:
hf_model = m.pipe[1][2].model
hf_model 是 PyTorch nn.Module,您可以照常使用它。
【讨论】: