将参数复制为常量值？答案

【问题标题】：Copy parameters as constant values?将参数复制为常量值？
【发布时间】：2017-03-09 12:52:18
【问题描述】：

我训练了一个包含大量数据的语音模型（使用 CNTK），并且需要使其适应低资源语言。由于目标语言的数据量太少，我决定使用原始模型的前三层（作为常量）并在顶部附加两个前馈层。我找不到明确的方法来做到这一点。

为了简化事情，假设我的原始模型是：

model1 = Sequential([Recurrence(LSTM(1024, use_peepholes=True)), Dense(40), Recurrence(LSTM(1024, use_peepholes=True)), Dense(256), Dense(num_classes1)])

我的低资源模型需要类似于：

model2 = Sequential([Recurrence(LSTM(1024, use_peepholes=True)), Dense(40), Recurrence(LSTM(1024, use_peepholes=True)), Dense(128), Dense(num_classes2)])

如何将model1的前三层的参数复制到model2作为常数值（在model2的训练过程中不更新）？

【问题讨论】：

标签： python cntk

【解决方案1】：

您可以克隆网络并冻结参数。文档可以在这里找到：

https://cntk.ai/pythondocs/graph.html?highlight=clone%20freeze#cntk.ops.functions.CloneMethod

您可以在此处找到示例： https://github.com/Microsoft/CNTK/blob/77154a7f7288d4b119e415039be6471565fceccf/Examples/Image/TransferLearning/TransferLearning.py

【讨论】：

您要查找的资源已被删除、更改名称或暂时不可用。第一个链接失效了。