higher-order organization of complex networks摘要

  网络中，高阶链接模式是控制和调节复杂系统的基本结构，大部分高阶结构是指一个小的子图，这种小的子图是复杂系统的建筑块。例如，正反馈回路是调控网络的关键要素，三元组是社交网络的关键，双向开三角结构是大脑hub节点的关键，开三角结构是航空网络的关键模式。这里介绍高阶结构，并提出一种聚类框架。
  给定一个网络模块M$M$，寻找一种聚类S$S$以满足两种目标。首先，节点应参与尽量多的模块M$M$，其次集合S$S$应避免破坏模块M$M$。即，给定模块M$M$，高阶聚类方法的目标是最小

ϕM(S)=cutM(S,S¯¯¯)/min[volM(S),volM(S¯¯¯)](1)$$\begin{array}{}\text{(1)}& {\varphi }_M(S)=cu{t}_M(S,\overline{S})/min[vo{l}_M(S),vo{l}_M(\overline{S})]\end{array}$$

cutM(S,S¯¯¯)$cu{t}_M(S,\overline{S})$是被分割开来的M$M$的个数，volM(S)$vo{l}_M(S)$是S$S$中M$M$的节点数。算法借鉴谱聚类的方法，算法流程是
  1.给定一个网络和一种模块M$M$，算出矩阵WM$W_M$，其中元素(i,j)$(i,j)$表示节点i,j$i,j$共现于M$M$中的次数。
  2.计算由WM$W_M$产生的拉普拉斯谱排序σ$\sigma$。
  3.找到σ$\sigma$排序的前r$r$个组成的集合作为Sr={σ1,…,σr}$S_r=\{{\sigma }_1,\dots ,{\sigma }_r\}$，依据是S:=argminrϕM(Sr)$S:=argmi{n}_r{\varphi }_M(S_r)$。
  我们的方法统一了模块分析和网络聚类这两个基础方向，揭示了组织结构和模块。之前的分析没有给出最差情况下的聚类保证，以及随网络规模增加而导致的复杂度，补充材料里的理论结果说明了超图聚类方法对于特殊的有向图是更加通用的。
  考虑无向图G=(V,E)$G=(V,E)$，|V|=n$|V|=n$，进一步假设没有独立点，W$W$记为图的权重，对角矩阵D$D$记为Dii=∑nj=1Wij$D_{ii}=\sum _{j=1}^n{W}_{ij}$，拉普拉斯矩阵为L=D−W$L=D-W$。对于集合S$S$，则ϕ(G)(S)${\varphi }^{(G)}(S)$为

ϕ(G)(S)=cut(G)(S,S¯¯¯)/min(vol(G)(S),vol(G)(S¯¯¯))(3)$$\begin{array}{}\text{(3)}& {\varphi }^{(G)}(S)=cu{t}^{(G)}(S,\overline{S})/min(vo{l}^{(G)}(S),vo{l}^{(G)}(\overline{S}))\end{array}$$

cut(G)(S,S¯¯¯)=∑i∈S,j∈S¯¯¯¯Wij(4)$$\begin{array}{}\text{(4)}& cu{t}^{(G)}(S,\overline{S})=\sum _{i\in S,j\in \overline{S}}{W}_{ij}\end{array}$$

vol(G)(S)=∑i∈SDii(5)$$\begin{array}{}\text{(5)}& vo{l}^{(G)}(S)=\sum _{i\in S}{D}_{ii}\end{array}$$

cut(G)(S,S¯¯¯)=weighted sum of edges that are cut(6)$$\begin{array}{}\text{(6)}& cu{t}^{(G)}(S,\overline{S})=weightedsumofedgesthatarecut\end{array}$$

vol(G)(S)=weighted number of edge end points in S(7)$$\begin{array}{}\text{(7)}& vo{l}^{(G)}(S)=weightednumberofedgeendpointsinS\end{array}$$

x$x$表示集合S$S$的向量，xi=1$x_i=1$表示节点i$i$在S$S$中，xi=0$x_i=0$表示节点i$i$在S¯¯¯$\overline{S}$中，若边(i,j)$(i,j)$被分开，则(xi−xj)2=1$(x_i-x_j{)}^2=1$，反之(xi−xj)2=0$(x_i-x_j{)}^2=0$，于是

xTLx=cut(G)(S,S¯¯¯)=∑(i,j)∈Ewij(xi−xj)2(9)$$\begin{array}{}\text{(9)}& x^{T}Lx=cu{t}^{(G)}(S,\overline{S})=\sum _{(i,j)\in E}{w}_{ij}(x_i-x_j{)}^2\end{array}$$

  在这里定义(B,A)$(B,\mathcal{A})$，其中B$B$是一个k×k$k\times k$的二值矩阵，A$\mathcal{A}$是一个节点集合，B$B$编码连边模式，A$\mathcal{A}$表示模块的子集，在很多时候A表示节点的整个集合$\mathcal{A}表示节点的整个集合$。set(⋅)$set(\cdot )$将有序元组变成无序元组，set((v1,v2,…,vk))={v1,v2,…,vk}$set((v_1,v_2,\dots ,v_k))=\{v_1,v_2,\dots ,v_k\}$，

M(B,A)={(set(v),set(χA(v)))|v∈Vk,v1,…,vk}(10)$$\begin{array}{}\text{(10)}& M(B,\mathcal{A})=\{(set(v),set({\chi }_{\mathcal{A}}(v)))|v\in V^k,v_1,\dots ,v_k\}\end{array}$$

若χA(v)=v${\chi }_{\mathcal{A}}(v)=v$，则为simple motifs，否则为anchored motifs。
公式(10)可以重新写为

cut(G)M(S,S¯¯¯)=∑(v,χA(v))∈M1(∃i,j∈χA(v)|i∈S,j∈S¯¯¯)(17)$$\begin{array}{}\text{(17)}& cu{t}_M^{(G)}(S,\overline{S})=\sum _{(v,{\chi }_A(v))\in M}1(\mathrm{\exists }i,j\in {\chi }_{\mathcal{A}}(v)|i\in S,j\in \overline{S})\end{array}$$

vol(G)M(S)=∑(v,χA)∈M∑i∈χA(v)1(i∈S)(18)$$\begin{array}{}\text{(18)}& vo{l}_M^{(G)}(S)=\sum _{(v,{\chi }_{\mathcal{A}})\in M}\sum _{i\in {\chi }_{\mathcal{A}}(v)}1(i\in S)\end{array}$$

(WM)ij=∑(v,χA)∈M1({i,j})⊂χA(v))(20)$$\begin{array}{}\text{(20)}& (W_M{)}_{ij}=\sum _{(v,{\chi }_{\mathcal{A}})\in M}1(\{i,j\})\subset {\chi }_{\mathcal{A}}(v))\end{array}$$

(DM)ii=∑nj=1(WM)ij$(D_M{)}_{ii}=\sum _{j=1}^n(W_M{)}_{ij}$，LM=DM−WM$L_M=D_M-W_M$，最后LM=D−1/2MLMD−1/2M=I−D−1/2MWMD−1/2M${\mathcal{L}}_M=D_M^{-1/2}{L}_M{D}_M^{-1/2}=I-D_M^{-1/2}{W}_M{D}_M^{-1/2}$，使用特征向量LM${\mathcal{L}}_M$进行分类。


引理1.令G=(V,E)$G=(V,E)$为一个无权重有向图，GM$G_M$是基于模块的有权重图，|A|≥2$|\mathcal{A}|\ge 2$则对于任意S⊂V$S\subset V$，有

vol(G)M(S)=1|A|−1vol(GM)(S)$$vo{l}_M^{(G)}(S)=\frac{1}{|\mathcal{A}|-1}vo{l}^{(G_M)}(S)$$

引理2.令xi,xj,xk∈{−1,1}$x_i,x_j,x_k\in \{-1,1\}$，则

4⋅1(xi,xjxk not all the same)=x2i+x2j+x2k−xixj−xjxk−xkxi$$4\cdot 1(x_i,x_j{x}_{k}notallthesame)=x_i^2+x_j^2+x_k^2-x_i{x}_j-x_j{x}_k-x_k{x}_i$$

引理3.令z∈{0,1}n$z\in \{0,1{\}}^n$，若zi=1$z_i=1$则xi=1$x_i=1$，若zi=1$z_i=1$则xi=−1$x_i=-1$，则对于L=D−W$L=D-W$，有4zTLz=xTLx$4z^{T}Lz=x^{T}Lx$。
引理4.令G=(V,E)$G=(V,E)$有向无权重图，GM$G_M$是基于|A|=3$|\mathcal{A}|=3$的模块的有权重图，对于S⊂V$S\subset V$，有

cut(G)M(S,S¯¯¯)=12cut(GM)(S,S¯¯¯)$$cu{t}_M^{(G)}(S,\overline{S})=\frac{1}{2}cu{t}^{(G_M)}(S,\overline{S})$$

定理5.令G=(V,E)$G=(V,E)$有向无权重图，WM$W_M$有权重邻接矩阵，且模块|A|=3$|\mathcal{A}|=3$，则对于S⊂V$S\subset V$，有

ϕ(G)M(S)=ϕ(GM)(S)$${\varphi }_M^{(G)}(S)={\varphi }^{(G_M)}(S)$$

定理6.假设使用算法1找到较好的集合S$S$，令ϕ∗=minS′ϕ(G)M(S′)${\varphi }_{\ast }=mi{n}_{S^{\prime }}{\varphi }_M^{(G)}(S^{\prime })$为最优集合，则
1.ϕ(G)M≤4ϕ∗−−√ and${\varphi }_M^{(G)}\le 4\sqrt{{\varphi }^{\ast }}and$
2.ϕ∗≥λ2/2${\varphi }^{\ast }\ge {\lambda }_2/2$
引理7.令xi,xjxk,xl∈{−1,1}$x_i,x_j{x}_k,x_l\in \{-1,1\}$，则有

8⋅1(xi,xj,xk,xl not all the same)=(7−xixj−xixk−xixl−xjxk−xjxl−xkxl−xixjxkxl)(21)$$\begin{array}{}\text{(21)}& 8\cdot 1(x_i,x_j,x_k,x_{l}notallthesame)=(7-x_i{x}_j-x_i{x}_k-x_i{x}_l-x_j{x}_k-x_j{x}_l-x_k{x}_l-x_i{x}_j{x}_k{x}_l)\end{array}$$

引理8.令G=(V,E)$G=(V,E)$有向无权重图，GM$G_M$基于|A|=4$|\mathcal{A}|=4$模块有权重图，则对于S⊂V$S\subset V$，有

cut(G)M(S,S¯¯¯)=13cut(GM)(S,S¯¯¯)−∑(v,{i,j,k,l}∈M)13⋅1(exactly two of i,j,k,l in S)$$cu{t}_M^{(G)}(S,\overline{S})=\frac{1}{3}cu{t}^{(G_M)}(S,\overline{S})-\sum _{(v,\{i,j,k,l\}\in M)}\frac{1}{3}\cdot 1(exactlytwoofi,j,k,linS)$$

定理9.令G=(V,E)$G=(V,E)$有向无权重图，WM$W_M$基于|A|=4$|\mathcal{A}|=4$模块邻接矩阵，则对于S⊂V$S\subset V$，有

ϕ(G)M(S)=ϕ(GM)(S)−∑(v,{i,j,k,l})∈M1(exactly two of i,j,k,l in S)vol(GM)(S)$${\varphi }_M^{(G)}(S)={\varphi }^{(G_M)}(S)-\frac{\sum _{(v,\{i,j,k,l\})\in M}1(exactlytwoofi,j,k,linS)}{vo{l}^{(G_M)}(S)}$$