图学习笔记（一）：图

妖狐艹你老母 2023-01-11 08:33 149阅读 0赞

### 图学习笔记（一）：图与图学习 ###

*  一. 图是什么？
 *   *  1. 图的定义
     *  2. 图的基本表示方法及概念
     *   *  2.1 图的构成
         *  2.2 图的概念
     *  3. 例子：空手道俱乐部图
 *  二. 如何存储图？存储图的方式：三种
 *   *   *  第一种：存储为==边列表==：
         *  第二种：使用==邻接矩阵==，这通常是在内存中加载的方式：
         *  第三种：使用==邻接列表==：
 *  三. 图的类型和性质
 *   *  1. 同构图与异构图
 *  四. 主要的图算法：三个
 *   *  1. 寻路和图搜索算法
     *   *  1). 搜索算法
         *  2). 寻路算法
         *   *  a. 最短路径
             *  b. 单源最短路径
             *  c. 所有配对最短路径
             *  d. 最小权重生成树
     *  2. 社群检测
     *  3. 分层聚类
 *  参考资料
 *  五. 图机器学习的发展

# 一. 图是什么？ #

import numpy as np
    import random
    import networkx as nx
    from IPython.display import Image
    import matplotlib.pyplot as plt

## 1. 图的定义 ##

*  图的定义: 图表示物件与物件之间的关系的数学对象，是图论的基本研究对象。  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70]  
    节点（node）用红色标出，通过黑色的边（edge）连接。
 *  图可用于表示:社交网络，网页，生物网络…
 *  我们可以在图上执行怎样的分析？研究拓扑结构和连接性，群体检测，识别中心节点，预测缺失的节点，预测缺失的边…

## 2. 图的基本表示方法及概念 ##

### 2.1 图的构成 ###

*  图 G=(V, E) 由下列要素构成：  
    一组节点（也称为 verticle）V=1,…,n  
    一组边 E⊆V×V  
    边 (i,j) ∈ E 连接了节点 i 和 j  
    i 和 j 被称为相邻节点（neighbor）  
    节点的度（degree）是指相邻节点的数量
 *  例如下图节点、边和度的示意图： 图中红色相邻节点Node i，j；图中边Edge；绿色节点度=2  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 1]

### 2.2 图的概念 ###

概念1：完备、路径、图的直径

*  如果一个图的所有节点都有 n-1 个相邻节点，则该图是完备的（complete）。也就是说所有节点都具备所有可能的连接方式。
 *  从 i 到 j 的路径（path）是指从 i 到达 j 的边的序列。该路径的长度（length）等于所经过的边的数量。
 *  图的直径（diameter）是指连接任意两个节点的所有最短路径中最长路径的长度。
 *  例如：下面一个直径为 3 的图：该图的直径为 3，因为没有任意两个节点之间的最短路径的长度超过 3。  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 2]  
    概念2：测地路径、连通
 *  测地路径（geodesic path）是指两个节点之间的最短路径。
 *  如果所有节点都可通过某个路径连接到彼此，则它们构成一个连通分支（connected component）。如果一个图仅有一个连通分支，则该图是连通的（connected）
 *  例如：一个有两个连通分支的图。  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 3]  
    概念3：有向、入度、出度；有环的、无环的、加权、稀疏的、密集的
 *  如果一个图的边是有顺序的配对，则该图是有向的（directed）。i 的入度（in-degree）是==指向 i 的边的数量，出度（out-degree）是远离 i ==的边的数量。
 *  如果可以回到一个给定节点，则该图是有环的（cyclic）。相对地，如果至少有一个节点无法回到，则该图就是无环的（acyclic）。
 *  图可以被加权（weighted），即在节点或关系上施加权重。
 *  如果一个图的边数量相比于节点数量较小，则该图是稀疏的（sparse）。相对地，如果节点之间的边非常多，则该图是密集的（dense）  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 4]  
    Neo4J 的关于图算法的书给出了清晰明了的总结：  
    无向图undirected  
    有向图directed  
    循环图cyclic  
    无环图acyclic  
    权重图weighted  
    无权重图unweighted  
    稀疏图sparse  
    密集图dense  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 5]

## 3. 例子：空手道俱乐部图 ##

这个「空手道」图表示什么？Wayne W. Zachary 在 1970 到 1972 年这三年中研究的一个空手道俱乐部的社交网络。该网络包含了这个空手道俱乐部的 34 个成员，成员对之间的连接表示他们在俱乐部之外也有联系。在研究期间，管理员 JohnA 与教练 Mr.Hi（化名）之间出现了冲突，导致俱乐部一分为二。一半成员围绕 Mr.Hi 形成了一个新的俱乐部，另一半则找了一个新教练或放弃了空手道。基于收集到的数据，除了其中一个成员，Zachary 正确分配了所有成员在分裂之后所进入的分组。

#导入所需包
    import numpy as np
    import random
    import networkx as nx
    from IPython.display import Image
    import matplotlib.pyplot as plt
    
    
    #预构建图：
    G_karate = nx.karate_club_graph()
    # Find key-values for the graph
    pos = nx.spring_layout(G_karate)
    # Plot the graph
    nx.draw(G_karate, cmap = plt.get_cmap('rainbow'), with_labels=True, pos=pos)
    
    
    # .degree() 属性会返回该图的每个节点的度（相邻节点的数量）的列表：
    n=34
    print(G_karate.degree())
    degree_sequence = list(G_karate.degree())
    
    
    # 计算边的数量，但也计算度序列的度量：
    nb_nodes = n
    nb_arr = len(G_karate.edges())
    avg_degree = np.mean(np.array(degree_sequence)[:,1])
    med_degree = np.median(np.array(degree_sequence)[:,1])
    max_degree = max(np.array(degree_sequence)[:,1])
    min_degree = np.min(np.array(degree_sequence)[:,1])
    # 最后，打印所有信息：
    print("Number of nodes : " + str(nb_nodes))
    print("Number of edges : " + str(nb_arr))
    print("Maximum degree : " + str(max_degree))
    print("Minimum degree : " + str(min_degree))
    print("Average degree : " + str(avg_degree))
    print("Median degree : " + str(med_degree))
    
    # 平均而言，该图中的每个人都连接了 4.6 个人。
    # 我们可以绘出这些度的直方图：
    degree_freq = np.array(nx.degree_histogram(G_karate)).astype('float')
    plt.figure(figsize=(12, 8))
    plt.stem(degree_freq)
    plt.ylabel("Frequence")
    plt.xlabel("Degre")
    plt.show()#度的直方图相当重要，可用于确定我们看到的图的种类。

# 二. 如何存储图？存储图的方式：三种 #

这三种表示方式都是等价的，我们可以根据使用场景来选择图的存储方式。

### 第一种：存储为边列表： ###

1 2  
1 3  
1 4  
2 3  
3 4  
…  
我们存储有边连接的每一对节点的 ID，例如：

G_karate.edges()

### 第二种：使用邻接矩阵，这通常是在内存中加载的方式： ###

对于图中的每一个可能的配对，如果两个节点有边相连，则设为 1。如果该图是无向图，则 A 是对称的。  
![在这里插入图片描述][2021012609515585.png]

### 第三种：使用邻接列表： ###

1 ：\[2, 3, 4\]  
2 ：\[1,3\]  
3 ：\[2, 4\]  
…

# 三. 图的类型和性质 #

图可以根据不同标准进行分类，我们在这里主要讲一种分类方法，同构图与异构图。其他可以查看: [博客：图论（二）–各种图介绍链接][Link 1].

## 1. 同构图与异构图 ##

两个图G和H是同构图（isomorphic graphs），能够通过重新标记图G的顶点而产生图H。  
如果G和H同构，那么它们的阶是相同的，它们大小是相同的，它们个顶点的度数也对应相同。

异构图是一个与同构图相对应的新概念。  
传统同构图（Homogeneous Graph）数据中只存在一种节点和边，因此在构建图神经网络时所有节点共享同样的模型参数并且拥有同样维度的特征空间。  
而异构图（Heterogeneous Graph）中可以存在不只一种节点和边，因此允许不同类型的节点拥有不同维度的特征或属性。

# 四. 主要的图算法：三个 #

目前大多数框架（比如 Python 的 networkx 或 Neo4J）支持的图算法类别主要有三个：  
Pathfinding（寻路）：根据可用性和质量等条件确定最优路径。我们也将搜索算法包含在这一类别中。这可用于确定：最快路由或流量路由。  
Centrality（中心性）：确定网络中节点的重要性。这可用于：识别社交网络中有影响力的人或识别网络中潜在的攻击目标。  
Community detection（社群检测）：评估群体聚类的方式。这可用于：划分客户或检测欺诈等。  
networkx 中的所有算法都可在这里找到：  
https://networkx.github.io/documentation/stable/reference/algorithms/index.html  
我们只会介绍 networkx 中实现的最常见的基本算法。

## 1. 寻路和图搜索算法 ##

寻路算法是通过最小化跳（hop）的数量来寻找两个节点之间的最短路径。  
搜索算法不是给出最短路径，而是根据图的相邻情况或深度来探索图。这可用于信息检索。

### 1). 搜索算法 ###

图搜索算法主要有两种：  
宽度优先搜索（BFS）：首先探索每个节点的相邻节点，然后探索相邻节点的相邻节点；  
深度优先搜索（DFS）：会尝试尽可能地深入一条路径，如有可能便访问新的相邻节点。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 6]

### 2). 寻路算法 ###

#### a. 最短路径 ####

最短路径计算的是一对节点之间的最短的加权（如果图有加权的话）路径。这可用于确定最优的驾驶方向或社交网络上两个人之间的分离程度。

计算图中的最短路径的方法有很多，包括 Dijkstra 算法，这是 networkx 中的默认算法。更多有关最短路径问题的介绍请参阅：https://en.wikipedia.org/wiki/Shortest\_path\_problem

用空手道俱乐部图举例:

nx.draw(G_karate, cmap = plt.get_cmap('rainbow'), with_labels=True, pos=pos)
    
    # 这会返回图中每个节点之间的最小路径的列表：
    all_shortest_path = nx.shortest_path(G_karate)
    # 这里打印了节点0与其余节点的最短路径
    print(all_shortest_path[0])
    # 例如节点0与节点26的最短路径是[0, 8, 33, 26]

#### b. 单源最短路径 ####

单源最短路径（Single Source Shortest Path/SSSP）是找到给定节点与图中其它所有节点之间的最短路径。这常用于 IP 网络的路由协议。

nx.draw(G_karate, cmap = plt.get_cmap('rainbow'), with_labels=True, pos=pos)
    
    # 返回对给定节点（源头）0与图中其他节点的最短路径
    print(list(nx.single_source_shortest_path(G_karate, source=0)))

#### c. 所有配对最短路径 ####

所有配对最短路径（All Pairs Shortest Path / APSP）算法是找到所有节点对之间的最短路径。  
尽管能够提供相近的结果，但这比为每个节点对调用单源最短路径算法更快。该算法通常可用于确定交通网格的不同分区的流量负载。

nx.draw(G_karate, cmap = plt.get_cmap('rainbow'), with_labels=True, pos=pos)
    # 返回所有配对最短路径
    all_path_length = list(nx.all_pairs_shortest_path_length(G_karate))
    print(all_path_length[0])

#### d. 最小权重生成树 ####

最小权重生成树（minimum spanning tree）是图（一个树）的一个子图，其用权重和最小的边连接了图中的所有节点。注意，最小生成树应该用于无向图。

from networkx.algorithms import tree
    mst = tree.minimum_spanning_edges(G_karate, algorithm='prim', data=False)
    edgelist = list(mst)
    edgelist = sorted(edgelist)
    G = nx.Graph()#创建空的网络图
    G.add_edges_from(edgelist)
    plt.figure()
    nx.draw(G,pos = pos, node_color = 'b',edge_color = 'r',with_labels = True,font_size =18, node_size =20)

## 2. 社群检测 ##

社群检测是根据给定的质量指标将节点划分为多个分组。  
这通常可用于识别社交社群、客户行为或网页主题。 社区是指一组相连节点的集合。但是，目前关于社群还没有广泛公认的定义，只是社群内的节点应该要密集地相连。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 7]  
Girvan Newman 算法是一个用于发现社群的常用算法。其通过逐步移除网络内的边来定义社区。我们将居间性称为「边居间性（edge betweenness）」。这是一个正比于穿过该边的节点对之间最短路径的数量的值。

该算法的步骤如下：

1.  计算网络中所有已有边的居间性。
2.  移除居间性最高的边。
3.  移除该边后，重新计算所有边的居间性。
4.  重复步骤 2 和 3，直到不再剩余边。

from networkx.algorithms import community
    import itertools
    k = 1
    comp = community.girvan_newman(G_karate)
    for communities in itertools.islice(comp, k):
        print(tuple(sorted(c) for c in communities))

## 3. 分层聚类 ##

在分层聚类（hierarchical clustering）中，我们构建聚类的层次结构。我们用树状图的形式表示聚类。![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 8]  
其思想是以不同的规模分析社群结构。我们通常自下而上构建树状图。我们从每个节点一个聚类开始，然后合并两个「最近」的节点。

但我们如何衡量聚类是否相近呢？我们使用相似度距离。令 d(i,j) 为 i 和 j 之间的最短路径的长度。  
![在这里插入图片描述][20210126221323497.png]  
要得到最大连接，在每个步骤，被最短距离分开的两个聚类被组合到一起。相似度距离可用以下示意图阐释：![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 9]

#在应用分层聚类之前，我们需要定义每个节点之间的距离矩阵。
    pcc_longueurs=list(nx.all_pairs_shortest_path_length(G_karate))
    distances=np.zeros((n,n))# distances[i, j] is the length of the shortest path between i and j
    for i in range(n):
        for j in range(n):
            distances[i, j] = pcc_longueurs[i][1][j]
    
    #现在，我们将使用 sklearn 的 AgglomerativeClustering 函数来确定分层聚类。
    
    from sklearn.cluster import AgglomerativeClustering
    clustering = AgglomerativeClustering(n_clusters=2,linkage='average',affinity='precomputed').fit_predict(distances)
    # 最后，根据聚类结果，用不同颜色绘出所得到的图：
    G.add_edges_from(edgelist)
    plt.figure()
    nx.draw(G_karate,  node_color = clustering, pos=pos)

# 参考资料 #

[图论与图学习（一）：图的基本概念][Link 2].  
[图论与图学习（二）：图算法][Link 3].  
[github.com/maelfabien/Graph\_Analysis.ipynb][github.com_maelfabien_Graph_Analysis.ipynb].  
[aistudio版本Graph\_Analysis][aistudio_Graph_Analysis].

# 五. 图机器学习的发展 #

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70]: /images/20221119/33c520b84e814e2bbfc00fc55da58c97.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 1]: /images/20221119/bf885003443f4e4e8b15d2599d3973ad.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 2]: https://img-blog.csdnimg.cn/20210126091146825.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 3]: https://img-blog.csdnimg.cn/20210126091306109.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 4]: https://img-blog.csdnimg.cn/20210126091345370.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 5]: https://img-blog.csdnimg.cn/20210126092424698.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx,size_16,color_FFFFFF,t_70
[2021012609515585.png]: https://img-blog.csdnimg.cn/2021012609515585.png
[Link 1]: https://blog.csdn.net/App_12062011/article/details/85686740
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 6]: https://img-blog.csdnimg.cn/20210126101932334.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 7]: https://img-blog.csdnimg.cn/20210126220621126.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 8]: https://img-blog.csdnimg.cn/20210126221310199.jpeg?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx,size_16,color_FFFFFF,t_70
[20210126221323497.png]: https://img-blog.csdnimg.cn/20210126221323497.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx_size_16_color_FFFFFF_t_70 9]: https://img-blog.csdnimg.cn/2021012622133364.jpeg?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NDg2NTAx,size_16,color_FFFFFF,t_70
[Link 2]: https://www.jiqizhixin.com/articles/2019-07-30-10?from=synced&keyword=%E5%9B%BE%E8%AE%BA%E4%B8%8E%E5%9B%BE%E5%AD%A6%E4%B9%A0
[Link 3]: https://www.jiqizhixin.com/articles/2019-08-03-3?from=synced&keyword=%E5%9B%BE%E8%AE%BA%E4%B8%8E%E5%9B%BE%E5%AD%A6%E4%B9%A0
[github.com_maelfabien_Graph_Analysis.ipynb]: https://github.com/maelfabien/Machine_Learning_Tutorials/blob/master/3-MachineLearning/GraphMining/Graph_Analysis.ipynb
[aistudio_Graph_Analysis]: https://aistudio.baidu.com/aistudio/projectdetail/419264