如何在PYTORCH中使用TENSORBOARD

TensorBoard是用于机器学习实验的可视化工具包。TensorBoard允许跟踪和可视化指标，例如损失和准确性，可视化模型图，查看直方图，显示图像等等。在本教程中，我们将介绍TensorBoard的安装，PyTorch的基本用法以及如何可视化在TensorBoard UI中登录的数据。

安装

应该安装PyTorch以将模型和指标记录到TensorBoard日志目录中。以下命令将通过Anaconda安装PyTorch 1.4+（推荐）：

$ conda install pytorch torchvision -c pytorch

or pip

$ pip install torch torchvision

在PyTorch中使用TensorBoard

现在让我们尝试将TensorBoard与PyTorch一起使用！在记录任何内容之前，我们需要创建一个SummaryWriter实例。

import torch
from torch.utils.tensorboard import SummaryWriter
writer = SummaryWriter()

默认情况下将输出到目录./runs/

Log scalars

在机器学习中，重要的是要了解关键指标，例如损失以及它们在培训期间的变化。标量有助于节省每个训练步骤的损失值或每个时期之后的准确性。

要记录标量值，请使用。例如，让我们创建一个简单的线性回归训练，并使用add_scalar(tag, scalar_value, global_step=None, walltime=None)add_scalar

x = torch.arange(-5, 5, 0.1).view(-1, 1)
y = -5 * x + 0.1 * torch.randn(x.size())

model = torch.nn.Linear(1, 1)
criterion = torch.nn.MSELoss()
optimizer = torch.optim.SGD(model.parameters(), lr = 0.1)

def train_model(iter):
    for epoch in range(iter):
        y1 = model(x)
        loss = criterion(y1, y)
        writer.add_scalar("Loss/train", loss, epoch)
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()

train_model(10)
writer.flush()

调用flush()方法以确保所有未决事件均已写入磁盘。

请参阅torch.utils.tensorboard教程以找到更多可以登录的TensorBoard可视化类型。

如果不再需要摘要编写器，请调用close()method。

writer.close()

运行TensorBoard

通过命令行安装TensorBoard以可视化记录的数据

$ pip install tensorboard

现在，启动TensorBoard，指定您在上面使用的根日志目录。参数logdir指向TensorBoard将查找其可以显示的事件文件的目录。TensorBoard将递归遍历以logdir为根的目录结构，以查找。* tfevents。*文件。

$ tensorboard --logdir=runs

转到它提供的URL或http://localhost:6006/

如何在PYTORCH中使用TENSORBOARD

dashboard 显示了损失和准确性在每个时期如何变化。还可以使用它来跟踪训练速度，学习率和其他标量值。在不同的训练运行中比较这些指标有助于改善模型。

共享TensorBoard dashboards

TensorBoard.dev可让您上载ML实验结果并与任何人共享。使用TensorBoard.dev托管，跟踪和共享TensorBoard dashboard。

安装最新版本的TensorBoard以使用uploader。

$ pip install tensorboard --upgrade

使用简单的命令上传和共享TensorBoard。

$ tensorboard dev upload --logdir runs \
--name "My latest experiment" \ # optional
--description "Simple comparison of several hyperparameters" # optional

需要帮助，请运行。$ tensorboard dev --help

注意：上传的TensorBoards是公开的，所有人都可以看到。不要上传敏感数据。

通过终端提供的URL实时查看TensorBoard。例如https://tensorboard.dev/experiment/AdYd1TgeTlaLWXx6I8JUbA

如何在PYTORCH中使用TENSORBOARD

接下来，给大家介绍一下租用GPU做实验的方法，我们是在智星云租用的GPU，使用体验很好。具体大家可以参考：智星云官网： http://www.ai-galaxy.cn/，淘宝店：https://shop36573300.taobao.com/公众号: 智星AI

如何在PYTORCH中使用TENSORBOARD