使用 spacy 加载自定义模型时出错答案

【问题标题】：Error when loading a custom model with spacy使用 spacy 加载自定义模型时出错
【发布时间】：2019-05-25 18:38:05
【问题描述】：

我正在尝试将名为“ru2”的自定义模型加载到 spacy（用于 npl 处理）。

可以在这里找到：https://github.com/buriy/spacy-ru

问题是当我调用函数时

nlp = spacy.load('ru2')
doc = nlp(text)

我看到了错误

C:\ProgramData\Anaconda3\lib\importlib\_bootstrap.py:205: RuntimeWarning: spacy.tokens.span.Span size changed, may indicate binary incompatibility. Expected 72 from C header, got 80 from PyObject
  return f(*args, **kwds)
Traceback (most recent call last):
  File "C://.../nlp/src/ie/main.py", line 125, in <module>
    main(examp_dict['Poroshenko'])
  File "C://.../nlp/src/ie/main.py", line 92, in main
    nlp = spacy.load('ru2')
  File "C:\ProgramData\Anaconda3\lib\site-packages\spacy\__init__.py", line 27, in load
    return util.load_model(name, **overrides)
  File "C:\ProgramData\Anaconda3\lib\site-packages\spacy\util.py", line 133, in load_model
    return load_model_from_path(Path(name), **overrides)
  File "C:\ProgramData\Anaconda3\lib\site-packages\spacy\util.py", line 173, in load_model_from_path
    return nlp.from_disk(model_path)
  File "C:\ProgramData\Anaconda3\lib\site-packages\spacy\language.py", line 791, in from_disk
    util.from_disk(path, deserializers, exclude)
  File "C:\ProgramData\Anaconda3\lib\site-packages\spacy\util.py", line 630, in from_disk
    reader(path / key)
  File "C:\ProgramData\Anaconda3\lib\site-packages\spacy\language.py", line 781, in <lambda>
    deserializers["tokenizer"] = lambda p: self.tokenizer.from_disk(p, exclude=["vocab"])
  File "tokenizer.pyx", line 391, in spacy.tokenizer.Tokenizer.from_disk
  File "tokenizer.pyx", line 432, in spacy.tokenizer.Tokenizer.from_bytes
  File "C:\ProgramData\Anaconda3\lib\site-packages\spacy\util.py", line 606, in from_bytes
    msg = srsly.msgpack_loads(bytes_data)
  File "C:\ProgramData\Anaconda3\lib\site-packages\srsly\_msgpack_api.py", line 29, in msgpack_loads
    msg = msgpack.loads(data, raw=False, use_list=use_list)
  File "C:\ProgramData\Anaconda3\lib\site-packages\srsly\msgpack\__init__.py", line 60, in unpackb
    return _unpackb(packed, **kwargs)
  File "_unpacker.pyx", line 191, in srsly.msgpack._unpacker.unpackb
TypeError: unhashable type: 'list'

我在网上搜索类似的问题：

但这些解决方案都不适合我。

我用

msgpack==0.5.6（甚至按照上面链接中的建议降级）
spacy==2.1.4

【问题讨论】：

标签： python spacy msgpack

【解决方案1】：

这里来自https://spacy.io/usage#troubleshooting

如果您正在训练模型、将它们写入磁盘并使用 git 对其进行版本控制，则在尝试在 Windows 环境中加载它们时可能会遇到此错误。发生这种情况是因为 Windows 版 Git 的默认安装配置为在文件签出期间（提交时反之）自动将 Unix 样式的行尾字符 (LF) 转换为 Windows 样式的 (CRLF)。虽然这对于文本文件来说大部分都很好，但写入磁盘的训练模型有一些不应该经过这种转换的二进制文件。当他们这样做时，您会收到上述错误。您可以通过将 core.autocrlf 设置更改为“false”来修复它，或者通过将 .gitattributes 文件] 提交到您的存储库来告诉 git 它不应该在哪些文件或文件夹上进行 LF 到 CRLF 转换，使用像 path/to/spacy/model/** -text 这样的条目。完成上述任一操作后，再次克隆您的存储库。

【讨论】：

【解决方案2】：

这可能是因为用于生成模型的 SpaCy 版本号与您安装的 SpaCy 版本不同。（我当然不知道，只是提到它以防万一。）

【讨论】：