天天看点

PyG框架:mini-batch

一、mini-batch

在graph classification的一些基准数据集中,每个图的样本都很小,如果每次只操作一个,不能充分利用GPU资源。所以考虑把它们分成多个mini-batch。

1、原理

mini-batch就是并行处理多个图,这里把多个图的邻接矩阵A1、A2、……拼接成一个大的矩阵,可以看作一个对角矩阵(出现了很多0元素,即稀疏矩阵的存储)

PyG框架:mini-batch

在imgae、language领域中的mini-batch有两种方法:rescaling、padding,把每个样本都处理成一样的size、一样的shape。

但是这两种方法都不适用于graph,会造成很多不必要的内存浪费。

2、代码

PyG框架中的dataloader事先封装好了

from torch_geometric.loader import DataLoader

train_loader = DataLoader(train_dataset, batch_size=64, shuffle=True)
test_loader = DataLoader(test_dataset, batch_size=64, shuffle=False)

for step, data in enumerate(train_loader):
    print(f'Step {step + 1}:')
    print('=======')
    print(f'Number of graphs in the current batch: {data.num_graphs}')
    print(data)
    print()
           

输出结果:

Step 1:

=======

Number of graphs in the current batch: 64

Batch(edge_attr=[2560, 4], edge_index=[2, 2560], x=[1154, 7], y=[64], batch=[1154], ptr=[65])

Step 2:

======= Number of graphs in the current batch: 64 Batch(edge_attr=[2454, 4], edge_index=[2, 2454], x=[1121, 7], y=[64],

batch=[1121], ptr=[65])

Step 3:

======= Number of graphs in the current batch: 22 Batch(edge_attr=[980, 4], edge_index=[2, 980], x=[439, 7], y=[22],

batch=[439], ptr=[23])

PyG框架:mini-batch

继续阅读