Hyperas 没有返回最佳结果

Question

我正在使用 hyperas 优化功能，但它没有返回最佳结果。在运行期间，打印输出如下

100%|██████████| 100/100 [7:01:47<00:00, 411.15s/it, best loss: 5.1005506645909895e-05]

但是之后当我打印出我得到的最佳模型的结果时

5.8413380939757486e-05

这已经发生了好几次了，我不明白为什么。我写了一个可重现的例子，我遇到了同样的问题。

def test_function():
    x={{uniform(-23,23)}}
    function=x**2+x

    return {'loss': function, 'status': STATUS_OK, 'model': function}

###just a dummy function to get the optimization to run, my real function uses real data
def data_example():
    print('skip')
    return [0,1,2]

trials=Trials()
#    trials=pickle.load(open(trials_file, "rb"))
print('started new set of optimization runs')

if __name__ == '__main__':
    best_run, best_model = optim.minimize(model=test_function,
                                          data=data_example,
                                          algo=tpe.suggest,
                                          trials=trials,
                                          max_evals=100)

print(best_run)    

我上次运行时显示状态栏

100%|██████████| 100/100 [00:00<00:00, 498.77it/s, best loss: -0.24773021221244024]

print(best_run) 显示

{'x': -0.5476422899067598}

为什么我的best_run 结果与优化运行中的最小损失不相符？

Answer 1

你有没有想过best_run和best loss不是一回事？

best_run 返回您的损失的 argmin，对于 f(x) = x**2+x 确实是 x = -1/2，best loss 返回它的 min 值，这是f(-1/2) = -1/4。