python基于Node2Vec实现节点分类及其可视化示例详解
作者:实力 发布时间:2022-04-16 06:49:33
简介
Node2vec是一种用于图嵌入(Graph Embedding)的方法,可用于节点分类、社区发现和连接预测等任务。
实现过程
加载数据集
首先,让我们加载所需的Python库并执行以下代码以加载Cora数据集:
import networkx as nx
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
%matplotlib inline
from sklearn.manifold import TSNE
from node2vec import Node2Vec
# 加载Cora数据集
cora = pd.read_csv('cora/cora.content', sep='\t', header=None)
cited_in = pd.read_csv('cora/cora.cites', sep='\t', header=None,
names=['target', 'source'])
nodes, features = cora.iloc[:, :-1], cora.iloc[:, -1]
其中 cora.content
包含了所有节点特征信息,一共具有2708个节点和1433个特征;而 cora.cites
通过引文映射分别针对所述每个节点建立一个节点间的有向边关系,共有5429个边。接下来,我们需要将节点特征和引用信息合并,构建图结构。
# 定义函数:构造基于Cora数据集的图结构
def create_graph(nodes, features, cited_in):
nodes.index = nodes.index.map(str)
graph = nx.from_pandas_edgelist(cited_in,
source='source',
target='target')
for index, row in nodes.iterrows():
node_id = str(row[0])
features = row.drop(labels=[0])
node_attrs = {f'attr_{i}': float(x) for i, x in enumerate(features)}
if graph.has_node(node_id) == True:
temp = graph.nodes[node_id]
temp.update(node_attrs)
graph.add_nodes_from([(node_id, temp)])
else:
graph.add_nodes_from([(node_id, node_attrs)])
return graph
# 构建图
graph = create_graph(nodes, features, cited_in)
该函数将 cora.content
中的节点特征与 cora.cites
的有向边整合,并在图上标记它们。现在我们已经构建了一个图形视图,可以按想法可视化。
使用Node2vec嵌入数据
为了使用节点的特征进行分类,我们需要从网络中提取某些信息,以便将其传递给分类器作为输入。 节点2矢量方法的一个示例就是将提取的信息转换为至少每个节点一个维度的向量表达式。
Node2Vec模型由代表每个节点的向量组成,使用起始节点和目标节点的随机游走样本来学习它们。 节点2Vec模型定义随机游走过程中节点间的转移概率。
我们将使用 node2vec 库来生成图形的嵌入表示,并采用神经网络进行节点分类。
# 定义函数:创建基于Cora数据集的嵌入
def create_embeddings(graph):
# 初始化node2vec实例,指定相关超参数
n2v = Node2Vec(graph, dimensions=64, walk_length=30,
num_walks=200, p=1, q=1, weight_key='attr_weight')
# 基于指定参数训练得到嵌入向量表达式
model = n2v.fit(window=10, min_count=1, batch_words=4)
# 获得所有图中节点的嵌入向量
embeddings = pd.DataFrame(model.wv.vectors)
ids = list(map(str, model.wv.index2word))
# 将原有的特征和id与新获取到的嵌入向量按行合并
lookup_table = nodes.set_index(0).join(embeddings.set_index(embeddings.index))
return np.array(lookup_table.dropna().iloc[:, -64:]), np.array(list(range(1, lookup_table.shape[0] + 1)))
# 创建嵌入向量
cora_embeddings, cora_labels = create_embeddings(graph)
通过以上代码,我们可以获得每个节点的64维节点嵌入表达。
训练分类器
接下来我们将指定一些分类器并在Cora数据集上训练它们,以期根据嵌入进行准确的节点分类操作。
from sklearn import svm, model_selection, metrics
# 使用支持向量机作为示范的分类器
svm_model = svm.SVC(kernel='rbf', C=1, gamma=0.01)
# 进行交叉验证和分类训练
scores = model_selection.cross_val_score(
svm_model, cora_embeddings, cora_labels, cv=5)
print(scores.mean())
使用支持向量机作为分类器,进一步问题是分类器本身也要进行调参等相关操作,以期获取更好的性能。此处采取了5折交叉验证的方式对其性能进行评估输出。
可视化节点嵌入
对于人类而言,64维特征表达并不容易理解,因此我们需要将其降维以便可视化。 在这里我们使用 t-SNE,它专门用于降低高维数据的复杂度。 通过输出只包含 2个元素的概率分布向量,它生成一个二维图,其中相似节点紧密地放在一起。
# 定义函数:可视化Nodes2Vec的结果
def visualize_results(embeddings, labels):
# 使用t-SNE对数据进行降维并绘图
tsne = TSNE(n_components=2, verbose=1, perplexity=40, n_iter=300)
tsne_results = tsne.fit_transform(embeddings)
plt.figure(figsize=(10, 5))
plt.scatter(tsne_results[:,0], tsne_results[:,1], c=labels)
plt.colorbar()
plt.show()
# 可视化结果
visualize_results(cora_embeddings, cora_labels)
Node2Vec生成的嵌入向量将被输入到t-SNE中,其中t-SNE将64维向量表达进行了降维,并输出我们可以使用 matplotlib 库可视化的二维散点图。 我们可以在图形界面中检查大部分相关节点是否如预期那样紧密聚集。
来源:https://juejin.cn/post/7224410321670471735


猜你喜欢
- 前言树是数据结构中非常重要的一种,主要的用途是用来提高查找效率,对于要重复查找的情况效果更佳,如二叉排序树、FP-树。另外可以用来提高编码效
- 双击编辑功能如何实现:例如:标题 (鼠标双击“标题”文字 即出现可编辑的输入框形式及提交按钮) <!D
- Flask框架是Python开发的一个基于Werkzeug和Jinja 2的web开发微框架,它的优势就是极其简洁, 但又非常灵活,而且容易
- 目前有好几种方法可以将python文件打包成exe应用程序文件,例如py2exe,pyinstaller等,比较下来,还是觉得pyinsta
- Go语言中rune方法如何使用,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希
- 前言本文主要介绍属性、事件和插槽这三个vue基础概念、使用方法及其容易被忽略的一些重要细节。如果你阅读别人写的组件,也可以从这三个部分展开,
- 写爬虫似乎没有比用 Python 更合适了,Python 社区提供的爬虫工具多得让你眼花缭乱,各种拿来就可以直接用的 library 分分钟
- 本文实例讲述了python使用post提交数据到远程url的方法。分享给大家供大家参考。具体如下:import sys, urllib2,
- Select CONCAT( 'drop table ', table_name, ';' ) FROM i
- 近期,需要实现检测摄像头中指定坐标区域内的主体颜色,通过查阅大量相关的内容,最终实现代码及效果如下,具体的实现步骤在代码中都详细注释,代码还
- 模块导入1.1 import导入模块所谓的模块其实就是一个外部的工具包,其中存在的其实就是Python文件,这些文件都实现了某种特定的功能,
- 简介zhdate模块统计从1900年到2100年的农历月份数据代码,支持农历和公历之间的转化,并且支持日期差额运算。安装pip instal
- 中间件介绍中间件顾名思义,是介于request与response处理之间的一道处理过程,相对比较轻量级,并且在全局上改变django的输入与
- Python中的缩进(Indentation)决定了代码的作用域范围。这一点和传统的c/c++有很大的不同(传统的c/c++使用花括号{}符
- 统计每个库每个表的大小是数据治理的其中最简单的一个要求,本文将从抽样统计结果及精确统计结果两方面来统计MySQL的每个库每个表的数据量情况。
- 本文实例介绍了php打包网站并在线压缩为zip的方法,分享给大家供大家参考,具体内容如下<?php//在URL后参加 ?pwd=密码
- 本文实例讲述了Python科学计算包numpy用法。分享给大家供大家参考,具体如下:1 数据结构numpy使用一种称为ndarray的类似M
- 介绍海象运算符,即 := ,在 PEP 572 中被提出,并在 Python3.8 版本中发布。海象运算符的英文原名叫Assignment
- 在/etc/profile.d/简历oracle.sh内容如下在NLS_LANG设置编码ORACLE_HOME=/usr/lib/oracl
- 前言range函数可创建一个整数列表。如果需要知道当前元素在列表中的索引,推荐用enumerate代替range。zip函数用于同时遍历多个