【问题标题】:Use a trained neural network to imitate its training data使用经过训练的神经网络来模仿其训练数据
【发布时间】:2017-02-27 19:08:48
【问题描述】:

我正在设计一个散文模仿系统。它会读一堆散文,然后模仿它。这主要是为了好玩,所以模仿散文不需要太有意义,但我想尽我所能,用最少的努力。

我的第一个想法是使用我的示例散文来训练一个分类前馈神经网络,它将其输入分类为训练数据的一部分或非训练数据的一部分。然后我想以某种方式反转神经网络,找到新的随机输入,这些输入也被训练过的网络分类为训练数据的一部分。这样做的明显而愚蠢的方法是随机生成单词列表并仅输出分类高于某个阈值的单词列表,但我认为有更好的方法,使用网络本身将搜索限制在输入的某些区域空间。例如,也许您可​​以从一个随机向量开始,然后进行梯度下降优化以找到随机起点周围的局部最大值。这种仿制工艺有说法吗?有哪些已知的方法?

【问题讨论】:

    标签: neural-network


    【解决方案1】:

    Generative Adversarial Networks (GAN, Goodfellow 2014) 及其更高级的兄弟姐妹如 Deep Convolutional Generative Adversarial Networks 怎么样?那里有很多合适的研究文章,还有更温和的介绍,如this one on DCGANthis on GAN。引用后者:

    GAN 是一个有趣的想法,于 2014 年由 由 Ian 领导的蒙特利尔大学研究小组 Goodfellow(现在在 OpenAI)。 GAN 背后的主要思想是有两个 竞争的神经网络模型。一个以噪声为输入, 生成样本(因此称为生成器)。另一个模型 (称为鉴别器)从两个生成器接收样本 和训练数据,并且必须能够区分 两个来源。这两个网络进行连续博弈,其中 生成器正在学习生成越来越多的真实样本,并且 鉴别器正在学习变得越来越好 将生成的数据与真实数据区分开来。这两个网络是 同时训练,希望比赛能 使生成的样本与真实数据无法区分。

    (DC)GAN 应该非常适合您的任务。

    【讨论】:

    • 天哪,这/真的/类似于我的另一个想法!为神经网络提供噪声并对其进行训练,以便噪声始终生成合理的数据!谢谢 Lukasz 的参考!
    • 物理学家的一切:)。祝你好运!
    猜你喜欢
    • 2011-04-07
    • 1970-01-01
    • 1970-01-01
    • 2010-11-20
    • 2019-09-15
    • 1970-01-01
    • 1970-01-01
    • 2012-04-02
    • 2018-08-19
    相关资源
    最近更新 更多