无法使用自定义约束加载 keras 模型答案

【问题标题】：Cannot load keras model with custom constraint无法使用自定义约束加载 keras 模型
【发布时间】：2019-03-27 14:15:45
【问题描述】：

我为我的 keras GRU-NN 创建了一个自定义约束，并能够用它训练我的网络。约束如下：

import keras.backend as K
from keras.constraints import Constraint

class WeightClip(Constraint):
    def __init__(self, mn=0.1, mx=1.0):
        self.mn = mn
        self.mx = mx

    def __call__(self, p):
        return K.clip(p, self.mn, self.mx)

    def get_config(self):
        return {
            'name': self.__class__.__name__,
            'minimum': self.mn, 
            'maximum': self.mx
        }

保存模型并尝试重新加载后

model = keras.models.load_model(modelFile, custom_objects={'WeightClip': WeightClip})

我收到此错误消息：

TypeError: __init__() got an unexpected keyword argument 'name'

模型本身看起来像：

model = Sequential()
model.add(GRU(
    params.recurrent_units, 
    activation='linear',
    input_shape=(pr.n_features, pr.feature_size), 
    dropout=params.dropout, name='net',
    kernel_constraint=WeightClip(0.1, 1.0),
    bias_constraint=WeightClip(0.1, 1.0)
))
model.add(Dense(
    1, 
    activation='sigmoid', 
    kernel_constraint=WeightClip(0.1, 1.0),
    bias_constraint=WeightClip(0.1, 1.0)
))

参考 stackoverflow 上的其他类似问题，大部分时间都与自定义指标有关，但是，我尝试了 custom_objects 参数的不同组合，但似乎没有任何帮助。感谢您的帮助！

【问题讨论】：

现在似乎可以工作了。我没有在 get_config 函数中返回实际配置，而是返回空大括号。不知道在进行预测时它是否会损害模型的行为，但目前这对我来说并不重要。如果有人想解释，我仍然会很高兴！

标签： python keras

【解决方案1】：

窗帘后面发生了什么

当您在keras 中保存包含custom_object 的模型时，它将保存对类名的引用，以及包含对象当前配置的字典。它通过调用自定义对象实例的.get_config() 方法来实现。因此，此方法应返回一个字典，其中包含重新创建实例所需的一切。

调用keras.models.load() 后，keras 将加载您的模型并使用保存的字典创建自定义对象的实例。让我们暂时假设old_object_configuration = weight_clip_instance.get_config()。 keras 现在将使用 new_weight_clip_instance = WeightClip(**old_object_configuration) 构建一个新实例。当您在.get_config() 方法中返回参数name，但WeightClip.__init__() 的签名中没有名称参数时，您会看到错误。

返回一个空的字典会影响你的模型吗？

使用上面的知识，我们现在可以预测如果您的 .get_config() 方法返回一个空字典会发生什么。这导致调用new_weight_clip_instance = WeightClip({})。新实例将具有 mn=0.1 和 mx=1.0 的默认值，这不是预期的行为，并且会导致难以发现错误。

一个工作示例

import keras
import keras.backend as K
from keras import Sequential
from keras.constraints import Constraint
from keras.layers import GRU, Dense


RECURRENT_UNITS = 10
N_FEATURES = 10
FEATURE_SIZE = 50
DROPOUT = 0.5


class WeightClip(Constraint):
    def __init__(self, minimum=0.1, maximum=1.0):
        self.minimum = minimum
        self.maximum = maximum

    def __call__(self, p):
        return K.clip(p, self.minimum, self.maximum)

    def get_config(self):
        return {
            'minimum': self.minimum,
            'maximum': self.maximum
        }


model = Sequential()
model.add(GRU(
    RECURRENT_UNITS,
    activation='linear',
    input_shape=(N_FEATURES, FEATURE_SIZE),
    dropout=DROPOUT,
    name='net',
    kernel_constraint=WeightClip(0.1, 1.0),
    bias_constraint=WeightClip(0.1, 1.0)
))
model.add(Dense(
    1,
    activation='sigmoid',
    kernel_constraint=WeightClip(0.1, 1.0),
    bias_constraint=WeightClip(0.1, 1.0)
))
model.save('mymodel')

model = keras.models.load_model('mymodel', custom_objects={'WeightClip': WeightClip})

【讨论】：