Estom的博客

API torch1 张量 张量判断 2 张量创建tensor用构造一个张量data。 from_numpyTensor从创建一个numpy.ndarray。 zeros返回一个由标量值0填充的张量，其形状由变量参数定义size。 zeros_like返回一个填充有标量值0的张量，其大小与相同input。 ones返回一个由标量值1填充的张量，其形状由变量参数定义size。 ones_like返回用标量值1填充的张量，其大小与相同input。 arange返回大小的一维张量 range返回大小的一维张量 linspace创建大小为一维的张量，steps其值从start到end，包括两端均等间隔。 logspace创建尺寸的一维张量 eye返回一个二维张量，对角线上有一个，其他位置为零。 empty返回填充有未初始化数据的张量。 empty_like返回与相同大小的未初始化张量input。 empty_strided返回填充有未初始化数据的张量。 full创建一个size用填充的大小的张量fill_value。 full_like返回与input填充大小相同的张量fill_val...

torch.nn1 Containers2 Convolution Layers3 Pooling layers4 Padding Layers5 Non-linear Activations (weighted sum, nonlinearity)6 Non-linear Activations (other)7 Normalization Layers8 Recurrent Layers9 Transformer Layers10 Linear Layers11 Dropout Layers12 Sparse Layers13 Distance Functions14 Loss Functions损失函数nn.L1Loss创建一个标准来测量输入中每个元素之间的平均绝对误差（MAE） XX 和目标 ÿÿ 。 nn.MSELoss创建一个标准来测量输入中每个元素之间的均方误差（L2平方的平方） XX 和目标 ÿÿ 。 nn.CrossEntropyLoss这一标准联合收割机LogSoftmax，并NLLLoss在一个单独的类。 nn.CTCLoss连接主义者的时间分类损失。 nn...

提供了函数化的 torch.nn 实现了各个算子层，每层包含相同的算子。 torch.nn.functional 实现了各个算子。每一层可以包含不同的算子，用来实现比torch.nn更加细致的运算。

torch中有很多处理tensor的方法，返回的是torch.Tensor对象。 torch.Tensor 包含tensor处理的各种方法和属性。

PyTorch允许张量View成为现有张量的a。视图张量与其基本张量共享相同的基础数据。支持View避免了显式的数据复制，从而使我们能够快速且高效地进行内存重塑，切片和按元素操作。

每torch.Tensor有一个torch.dtype，torch.device和torch.layout。 1 torch.dtype2 torch.device3 torch.layout

线性代数运算库

torch.optim1 使用优化器构造优化器要构造一个，Optimizer您必须为其提供一个包含参数的可迭代项（所有参数都应为Variables）以进行优化。然后，您可以指定优化器特定的选项，例如学习率，权重衰减等。 12optimizer = optim.SGD(model.parameters(), lr=0.01, momentum=0.9)optimizer = optim.Adam([var1, var2], lr=0.0001) 使用优化器所有优化器都实现一种step()更新参数的方法。它可以以两种方式使用：optimizer.step() 这是大多数优化程序支持的简化版本。一旦使用例如来计算梯度，就可以调用该函数 backward()。 123456for input, target in dataset: optimizer.zero_grad() output = model(input) loss = loss_fn(output, target) loss.backward() optimizer.step() 2 优化器...

远程通信和分布式训练的框架。 可以学习一下，用来实现pysyft的过程。