【问题标题】:word2vec CBOW reader implementation on CNTKCNTK 上的 word2vec CBOW 阅读器实现
【发布时间】:2017-01-25 00:41:38
【问题描述】:

我想用负采样实现 CBOW word2vec。我通读了 CNTK 的文档,但找不到可以将句子作为输入并输出 2*k + 1 单词(当前单词和 k 当前单词左右的上下文单词)的阅读器。另外,我想在python中实现这个。

有没有在python中创建自定义cntk文本阅读器的指南?

【问题讨论】:

    标签: python word2vec cntk


    【解决方案1】:

    这是一个社区贡献的用于 word2vec 的 CNTK 模型。 https://github.com/jatinarora2702/CNTK-Word2Vec

    您可以利用此处的一些代码来为您的阅读器建模。非常欢迎您将其贡献回工具包。

    【讨论】:

    • 这个实现存在多个问题。首先,它读取单个数组中的所有句子。其次,我为输入单词创建了一个热向量编码,并在整个词汇表上输出一个 softmax,如果词汇量很大,这将惨遭失败。此外,它不是 CBOW 实现。但是,我得到了一些关于创建阅读器的提示。谢谢!
    • 谢谢阿舒托什。如果您想贡献一个 CBOW 实现,我们很乐意接受。
    猜你喜欢
    • 2021-01-16
    • 1970-01-01
    • 2018-03-07
    • 1970-01-01
    • 2019-02-23
    • 2012-09-19
    • 1970-01-01
    • 1970-01-01
    • 2016-11-01
    相关资源
    最近更新 更多