基于PyTorch实现EdgeCNN的实战教程
作者:?? 发布时间:2023-12-30 22:28:20
前言
大家好,我是阿光。
本专栏整理了《图神经网络代码实战》,内包含了不同图神经网络的相关代码实现(PyG以及自实现),理论与实践相结合,如GCN、GAT、GraphSAGE等经典图网络,每一个代码实例都附带有完整的代码。
正在更新中~ ✨
🚨 我的项目环境:
平台:Windows10
语言环境:python3.7
编译器:PyCharm
PyTorch版本:1.11.0
PyG版本:2.1.0
💥 项目专栏:【图神经网络代码实战目录】
本文我们将使用PyTorch来简易实现一个EdgeCNN,不使用PyG库,让新手可以理解如何PyTorch来搭建一个简易的图网络实例demo。
一、导入相关库
本项目是采用自己实现的EdgeCNN,并没有使用 PyG
库,原因是为了帮助新手朋友们能够对EdgeConv的原理有个更深刻的理解,如果熟悉之后可以尝试使用PyG库直接调用 EdgeConv
这个图层即可。
import torch
import torch.nn as nn
import torch.nn.functional as F
from torch_geometric.utils import scatter
from torch_geometric.datasets import Planetoid
二、加载Cora数据集
本文使用的数据集是比较经典的Cora数据集,它是一个根据科学论文之间相互引用关系而构建的Graph数据集合,论文分为7类,共2708篇。
Genetic_Algorithms
Neural_Networks
Probabilistic_Methods
Reinforcement_Learning
Rule_Learning
Theory
这个数据集是一个用于图节点分类的任务,数据集中只有一张图,这张图中含有2708个节点,10556条边,每个节点的特征维度为1433。
# 1.加载Cora数据集
dataset = Planetoid(root='./data/Cora', name='Cora')
三、定义EdgeCNN网络
3.1 定义EdgeConv层
这里我们就不重点介绍EdgeCNN网络了,相信大家能够掌握基本原理,本文我们使用的是PyTorch定义网络层。
对于EdgeConv的常用参数:
nn:进行节点特征转换使用的
MLP网络
,需要自己定义传入aggr:聚合邻居节点特征时采用的方式,默认为
max
我们在实现时也是考虑这几个常见参数
对于EdgeConv的传播公式为:
上式子中的 x i x_i xi 代表中心节点特征信息, x j x_j xj 代表邻居节点的特征信息,对于 h θ h_{\theta} hθ 代表每个 EdgeConv
层的可学习参数,也就是对应传入的MLP层中的可学习参数。
所以我们的任务无非就是获取这几个变量,然后进行传播计算即可
3.1.1 特征拼接
该环节实现的公式为: x i ∣ ∣ x j − x i x_i||x_j-x_i xi∣∣xj−xi,对于这个公式来说,我们要获得两个变量,一个是中心节点 x i x_i xi(target)的特征信息,一个是邻居节点 x j x_j xj(source)的特征信息。
对于这两个变量的获取很容易,利用 edge_index
就可以提取出来,edge_index
中保存的是每一条边的一对起始节点与终止节点,对于起始节点可以认为就是 i
,对于终止节点就可以认为是 j
,然后我们就会获得两个向量,分别为 row
和 col
,这两个向量就是起始顶点和终止顶点的集合。
然后我们在根据索引进行提取特征,利用 x_i = x[row]
和 x_j = x[col]
就可以将中心节点和终止节点对应的特征获取,维度为【E,feature_size】。
然后就可以按照公式实现做差然后与中心节点的特征进行拼接,获得拼接后的特征维度为原来的2倍。
row, col = edge_index # 获取target、source节点索引 [E]
x_i = x[row] # 获取target节点信息,中心节点 [E, feature_size]
x_j = x[col] # 获取source节点信息,邻居节点 [E, feature_size]
x_cat = torch.cat([x_i, x_j - x_i], dim=1) # 拼接特征 [E, 2 * feature_size]
对于这里 x_i
和 x_j
以及起始节点的索引初学可能混淆,所以多多打印中间结果一步一步调试进行理解。
3.1.2 max聚合
对于 EdgeConv
的默认聚合方式为 max
,其实还可以使用 mean
、sum
等排列不变函数进行聚合。
对于聚合操作就是公式中求和符号那里,只不过框架给的公式是 sum
,对于聚合我们希望做的是将中心节点的邻居特征按照指定的聚合方式进行聚合。
我们可以利用 PyG
工具库中提供的 scatter
函数进行操作,该函数可以指定聚合方式以及聚合维度等参数,使用方法就是需要传入需要聚合的 Tensor
,此外还需要传入一个 index
,指明哪些向量为同一个邻居的节点,举个例子,我们传入的 index=[0,0,0,1,1]
,这就代表第一个、第二个、第三个为同一节点的邻居,所以就会将待聚合的 Tensor
的第一个向量、第二个向量、第三个向量按照指定聚合方式进行聚合。
这里说的有点抽象,自己尝试一个简单示例就明白了。
out = scatter(src=x_cat, index=row, dim=0, reduce='max') # max聚合操作 [num_nodes, feature_size]
3.1.3 特征映射
在公式中有个 h θ h_{\theta} hθ,这个就代表 MLP
做特征映射做的,对于官方给的 EdgeConv
需要我们手动传入 MLP
模型,所以本项目自实现也是按照这种方式,MLP
的操作在 EdgeConv
中并没有实现,而是利用传入的模型进行操作。
这里注意一点就是定义的 MLP
模型的输入维度应该为原始维度的2倍,因为我们在这之前进行了特征拼接操作,所以特征维度进行了加倍。
out = self.mlp(out) # 特征映射 [num_nodes, out_channels]
3.1.4 EdgeConv层
接下来就可以定义EdgeConv层了,该层实现了1个函数,为 forward()
forward()
:这个函数定义模型的传播过程,也就是上面公式的 x i ′ = ∑ j ∈ N ( i ) h θ ( x i ∣ ∣ x j − x i ) x_i'=\sum_{j\in N(i)}h_{\theta}(x_i||x_j-x_i) xi′=∑j∈N(i)hθ(xi∣∣xj−xi)
# 2.定义EdgeConv层
class EdgeConv(nn.Module):
def __init__(self, nn, aggr='max'):
super(EdgeConv, self).__init__()
self.mlp = nn # MLP网络
def forward(self, x, edge_index):
row, col = edge_index # 获取target、source节点索引 [E]
x_i = x[row] # 获取target节点信息,中心节点 [E, feature_size]
x_j = x[col] # 获取source节点信息,邻居节点 [E, feature_size]
x_cat = torch.cat([x_i, x_j - x_i], dim=1) # 拼接特征 [E, 2 * feature_size]
out = scatter(src=x_cat, index=row, dim=0, reduce='max') # max聚合操作 [num_nodes, feature_size]
out = self.mlp(out) # 特征映射 [num_nodes, out_channels]
return out
对于我们实现这个网络的实现效率上来讲比PyG框架内置的 EdgeConv
层稍差一点,因为我们是按照公式来一步一步利用矩阵计算得到,没有对矩阵计算以及算法进行优化,不然初学者可能看不太懂,不利于理解EdgeConv公式的传播过程,有能力的小伙伴可以看下官方源码学习一下,框架内是按照消息传递方式实现的。
3.2 定义EdgeCNN网络
上面我们已经实现好了 EdgeConv
的网络层,之后就可以调用这个层来搭建 EdgeCNN
网络。
# 3.定义EdgeConv网络
class EdgeCNN(nn.Module):
def __init__(self, num_node_features, num_classes):
super(EdgeCNN, self).__init__()
self.conv1 = EdgeConv(nn=nn.Linear(2 * num_node_features, 16), aggr='max')
self.conv2 = EdgeConv(nn=nn.Linear(2 * 16, num_classes), aggr='max')
def forward(self, data):
x, edge_index = data.x, data.edge_index
x = self.conv1(x, edge_index)
x = F.relu(x)
x = F.dropout(x, training=self.training)
x = self.conv2(x, edge_index)
return F.log_softmax(x, dim=1)
上面网络我们定义了两个EdgeConv层,第一层的参数的输入维度就是初始每个节点的特征维度 * 2,输出维度是16。
第二个层的输入维度为16 * 2,输出维度为分类个数,因为我们需要对每个节点进行分类,最终加上softmax操作。
这里说明一下为什么要将输入乘以2,原因是在使用MLP进行特征转换之前,会将中心节点的特征与中心节点和邻居节点的差向量做拼接,所以得到的输出维度为节点的特征维度 * 2。
四、定义模型
下面就是定义了一些模型需要的参数,像学习率、迭代次数这些超参数,然后是模型的定义以及优化器及损失函数的定义,和pytorch定义网络是一样的。
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # 设备
epochs = 10 # 学习轮数
lr = 0.003 # 学习率
num_node_features = dataset.num_node_features # 每个节点的特征数
num_classes = dataset.num_classes # 每个节点的类别数
data = dataset[0].to(device) # Cora的一张图
# 3.定义模型
model = EdgeCNN(num_node_features, num_classes).to(device)
optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器
loss_function = nn.NLLLoss() # 损失函数
五、模型训练
模型训练部分也是和pytorch定义网络一样,因为都是需要经过前向传播、反向传播这些过程,对于损失、精度这些指标可以自己添加。
# 训练模式
model.train()
for epoch in range(epochs):
optimizer.zero_grad()
pred = model(data)
loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失
correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目
acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度
loss.backward()
optimizer.step()
if epoch % 20 == 0:
print("【EPOCH: 】%s" % str(epoch + 1))
print('训练损失为:{:.4f}'.format(loss.item()), '训练精度为:{:.4f}'.format(acc_train))
print('【Finished Training!】')
六、模型验证
下面就是模型验证阶段,在训练时我们是只使用了训练集,测试的时候我们使用的是测试集,注意这和传统网络测试不太一样,在图像分类一些经典任务中,我们是把数据集分成了两份,分别是训练集、测试集,但是在Cora这个数据集中并没有这样,它区分训练集还是测试集使用的是掩码机制,就是定义了一个和节点长度相同纬度的数组,该数组的每个位置为True或者False,标记着是否使用该节点的数据进行训练。
# 模型验证
model.eval()
pred = model(data)
# 训练集(使用了掩码)
correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()
acc_train = correct_count_train / data.train_mask.sum().item()
loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()
# 测试集
correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()
acc_test = correct_count_test / data.test_mask.sum().item()
loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()
print('Train Accuracy: {:.4f}'.format(acc_train), 'Train Loss: {:.4f}'.format(loss_train))
print('Test Accuracy: {:.4f}'.format(acc_test), 'Test Loss: {:.4f}'.format(loss_test))
七、结果
【EPOCH: 】1
训练损失为:1.9629 训练精度为:0.1214
【EPOCH: 】21
训练损失为:1.6709 训练精度为:0.5714
【EPOCH: 】41
训练损失为:1.3965 训练精度为:0.7571
【EPOCH: 】61
训练损失为:1.1095 训练精度为:0.8643
【EPOCH: 】81
训练损失为:0.9088 训练精度为:0.9286
【EPOCH: 】101
训练损失为:0.7454 训练精度为:0.9643
【EPOCH: 】121
训练损失为:0.5841 训练精度为:0.9643
【EPOCH: 】141
训练损失为:0.4985 训练精度为:0.9714
【EPOCH: 】161
训练损失为:0.3954 训练精度为:0.9714
【EPOCH: 】181
训练损失为:0.3339 训练精度为:0.9857
【Finished Training!】>>>Train Accuracy: 1.0000 Train Loss: 0.3133
>>>Test Accuracy: 0.4230 Test Loss: 1.6562
训练集 | 测试集 | |
---|---|---|
Accuracy | 1.0000 | 0.4230 |
Loss | 0.3133 | 1.6562 |
完整代码:
import torch
import torch.nn as nn
import torch.nn.functional as F
from torch_geometric.utils import scatter
from torch_geometric.datasets import Planetoid
# 1.加载Cora数据集
dataset = Planetoid(root='./data/Cora', name='Cora')
# 2.定义EdgeConv层
class EdgeConv(nn.Module):
def __init__(self, nn, aggr='max'):
super(EdgeConv, self).__init__()
self.mlp = nn # MLP网络
def forward(self, x, edge_index):
row, col = edge_index # 获取target、source节点索引 [E]
x_i = x[row] # 获取target节点信息,中心节点 [E, feature_size]
x_j = x[col] # 获取source节点信息,邻居节点 [E, feature_size]
x_cat = torch.cat([x_i, x_j - x_i], dim=1) # 拼接特征 [E, 2 * feature_size]
out = scatter(src=x_cat, index=row, dim=0, reduce='max') # max聚合操作 [num_nodes, feature_size]
out = self.mlp(out) # 特征映射 [num_nodes, out_channels]
return out
# 3.定义EdgeConv网络
class EdgeCNN(nn.Module):
def __init__(self, num_node_features, num_classes):
super(EdgeCNN, self).__init__()
self.conv1 = EdgeConv(nn=nn.Linear(2 * num_node_features, 16), aggr='max')
self.conv2 = EdgeConv(nn=nn.Linear(2 * 16, num_classes), aggr='max')
def forward(self, data):
x, edge_index = data.x, data.edge_index
x = self.conv1(x, edge_index)
x = F.relu(x)
x = F.dropout(x, training=self.training)
x = self.conv2(x, edge_index)
return F.log_softmax(x, dim=1)
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # 设备
epochs = 200 # 学习轮数
lr = 0.0003 # 学习率
num_node_features = dataset.num_node_features # 每个节点的特征数
num_classes = dataset.num_classes # 每个节点的类别数
data = dataset[0].to(device) # Cora的一张图
# 4.定义模型
model = EdgeCNN(num_node_features, num_classes).to(device)
optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器
loss_function = nn.NLLLoss() # 损失函数
# 训练模式
model.train()
for epoch in range(epochs):
optimizer.zero_grad()
pred = model(data)
loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失
correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目
acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度
loss.backward()
optimizer.step()
if epoch % 20 == 0:
print("【EPOCH: 】%s" % str(epoch + 1))
print('训练损失为:{:.4f}'.format(loss.item()), '训练精度为:{:.4f}'.format(acc_train))
print('【Finished Training!】')
# 模型验证
model.eval()
pred = model(data)
# 训练集(使用了掩码)
correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()
acc_train = correct_count_train / data.train_mask.sum().item()
loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()
# 测试集
correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()
acc_test = correct_count_test / data.test_mask.sum().item()
loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()
print('Train Accuracy: {:.4f}'.format(acc_train), 'Train Loss: {:.4f}'.format(loss_train))
print('Test Accuracy: {:.4f}'.format(acc_test), 'Test Loss: {:.4f}'.format(loss_test))
来源:https://blog.csdn.net/m0_47256162/article/details/128768970
猜你喜欢
- python中break、continue 、exit() 、pass区分1、break:跳出循环,不再执行Python break语句,就
- 网上有这样一道题目:一个字符串String=“adadfdfseffserfefsefseetsdg”,找出里面出现次数最多的字母和出现的次
- 文件的属性所谓属性,就是能够通过一个文件对象得到的东西。>>> f = open("131.txt",
- 很简单,我们用两个文件就可以实现这一功能:login.htm<% @ Language=JavaScript&nb
- 1. 项目背景视频传输: 在一台电脑上播放视频(捕捉摄像头画面),同局域网内另一台电脑上实时播放,尽量不卡顿。先放最后的照片,和用gif展示
- 初学python和numpy,对在学习多维切片的过程中遇到的问题做个总结。一维切片就不说了,比较简单,先说下二维的,二维的理解了多维的就简单
- 最近在做人脸识别清洗样本的工作,发现经过人脸对齐后存在部分图片十分模糊,所以用opencv滤了一下。原理就是使用了cv2.Laplacian
- 相信很多与页面打过交道的同学都对 Yahoo 的 Best Practices for Speeding Up Your Web Site
- 一个非常繁琐粗暴的方法,python属于入门级水平,就酱先备份一下,如果有更好的方法再更新arrs=[[2,15,48,4,5],[6,7,
- 除了常用的csv文件和excel文件之外,我们还可以通过PY把数据保存文npy文件格式和mat文件格式。1. npy文件npy即numpy对
- 在MAC/LINUX环境下,执行vi hello.py命令,并输入以下代码import webimport sysurls = ("
- 内容摘要:下面是虚机维护中,经常碰到的一些ASP程序中的数据库调用的错误,现收集整理如下:1.不能打开注册表关键字(8007000e);2.
- 相信大家都知道html和css,知道html结构和css表现分离,知道html语义化,这些都是这几年的热门关键字。语义化的html在国内也是
- 如下所示:#!/usr/bin/python2.6 # -*- coding: utf-8 -*- import time cl
- jwt详解Django之auth模块(用户认证)jwt的作用json web token,一般用于用户认证就是做用户登录的(前后端分离/微信
- 概述从今天开始我们将开启一段自然语言处理 (NLP) 的旅程. 自然语言处理可以让来处理, 理解, 以及运用人类的语言, 实现机器语言和人类
- # -*- coding: utf-8 -*-# 测试各种排序算法# link:www.jb51.net# date:2013/2/2#选择
- 1、ValueError: Invalid control character at: line 1 column 8363 (char 8
- 在制作网页以及编程的时候,适当的进行注释,不仅使自己的思路清晰,极大地减轻了维护的难度,而且方便项目组其他人了解你的代码,方便对代码的理解以
- 一、粗心导致的语法错误SyntaxError1、input输入报错age=input('请输入你的年龄:')if age&g