如何在 Azure 容器实例中增加 ML 脚本的“评分超时”？答案

【问题标题】：How to increase "scoring timeout" on ML script in Azure Container Instance?如何在 Azure 容器实例中增加 ML 脚本的“评分超时”？
【发布时间】：2020-09-05 21:13:51
【问题描述】：

我正在研究在 Azure 容器实例 (ACI) 中运行的 ML 模型。我可以连接容器并运行 init() 函数，但“评分”函数超时（我认为）；它的默认值为 60 秒。错误信息显示没有错，但日志以"Scoring timeout is found from os.environ: 60000 ms"结尾。

run() 函数（即“评分”函数）应该有足够的时间，但 init() 函数有点慢，也许包括在内？无论如何，我无法弄清楚如何增加 score_timeout。看起来它是某种环境变量。我试过（使用 Python SDK）：
service.update(properties = {"scoring_timeout_ms":120000}) 但显然没有效果。

【问题讨论】：

标签： azure containers

【解决方案1】：

如果您认为它在 run() 中超时，您可以尝试将 run_invocation_timeout 设置为更高的值

【讨论】：

感谢您的建议。看起来该参数特定于我没有使用的管道。我想我可以将我的代码包装在一个管道步骤中，但我希望会有一个简单的答案。我在容器中检查了os.environ，它没有显示“超时”参数，所以我不确定 60 秒的值来自哪里。