论文《Temporal graph learning for dynamic link prediction with text in online social networks》阅读

论文《Temporal graph learning for dynamic link prediction with text in online social networks》阅读

• 论文概况

• Introduction

• Method

• • A.文本表示
  • B.ROLAND 框架
  • C.带有文本的动态链接预测模型

• 数据集

• 实验

• • 实验设置
  • 解决方案的可扩展性和通用性

• 总结

论文概况

本文是2024年Mach. Learn上的一篇论文，该篇文章提出了一种基于时间图神经网络的方法 综合利用文本内容、网络结构和节点属性的动态性进行在线社交网络 (OSN) 中的链接预测。

Introduction

在线社交网络 (OSN) 中的链接预测一直是机器学习社区众多研究的重点。一个成功的基于机器学习的解决方案需要
(i) 利用链接周围图形结构的全局和局部属性；
(ii) 利用 OSN 用户生成的内容；
(iii) 允许它们的表示随时间而变化，因为每个月都会创建/上传数千个用户与新内容（如文本帖子、评论、图像和视频）之间的新链接。

当前的研究已经成功地利用了结构信息，但只有少数研究还考虑了文本内容和/或网络结构和节点属性的动态性。

为了了解文本内容对这项任务的影响，作者提供了一种新颖的流程，使用 BERT 语言模型、密集预处理层和有效的后处理解码器将文本信息与结构信息一起包含在内。

我们选择基于区块链的在线社交网络 Steemit 作为案例研究，因为它可以检索有关社交关系和文本内容的高分辨率时间数据，从而创建归因时间网络 。具体来说，我们关注并收集了有关用户之间的“关注”关系以及用户生成的文本内容（帖子和评论）的时间数据。根据区块链的性质，通过与区块链 API 交互，数据是公开可用的、经过验证的和负担得起的。此外，每条信息也带有时间戳，因为每个区块链块都有一个验证时间戳，每个块都报告多方面的交互和内容（社交、经济、金融和文本）。鉴于此，这些数据源完全有能力应对与现代技术社交网络相关的挑战和问题，并提供对用户和网络特征的全面深入的检查。

应用上述方法得出的预测任务结果表明，文本特征和动态 GNN 的组合可随着时间的推移带来最佳性能 。此外，通过对不同的基于 ROLAND 的模型进行详尽比较，我们还深入了解了随着文档集合规模的增加，逐个快照的文本内容的重要性。通过测试不同的嵌入更新模块，我们找到了过去和当前节点嵌入在文本内容动态表示中的重要性之间的良好折衷。最后，我们讨论了这项工作的潜在扩展。

我们的主要贡献总结如下：
（i）我们提出了一种方法，通过学习结构信息和文档嵌入来预测未来的“关注”链接，从而利用在线社交网络数据中的拓扑和用户生成的文本内容，引入一种基于 ROLAND 框架的新型模型架构，并增加了一个有效的链接预测解码器和密集的预处理层来微调从预训练语言模型获得的文本嵌入；
（ii）我们使用最近推出的实时更新协议，在一个从新兴的区块链在线社交网络收集的新型数据集上训练和评估时间图神经网络的“关注”预测任务，该数据集提供高分辨率的时间信息；
（iii）我们通过分析不同的节点嵌入更新策略和基线来研究文本内容在从多个关注图快照中学习中的作用，以强调文本内容如何影响它们的性能。

现有研究的不足：
1，在动态链路预测方面。现有这些方法在模型设计、评估设置和训练策略方面存在局限性 。事实上，大多数研究并没有结合静态 GNN 的最新设计 ，并且训练和评估程序受到静态图学习的严重影响，是使用固定的训练测试分割策略执行的。为了克服这些限制，You 等人（2022 年）提出了一个图学习框架，该框架允许将任何静态 GNN 重新用于动态图，并在实时更新设置中执行训练和评估程序 。我们在本研究中采用他们的框架，以受益于其模型设计和训练与评估策略。除了 ROLAND 模型设计之外，我们的模型还利用有效的解码器进行链接预测，并利用两个密集的预处理层来微调从预训练语言模型获得的文档嵌入表示。

2，带文本的链接预测。只有少数研究评估了文本节点相关数据在提高链接预测任务性能方面的作用 。在这些作品中，Parimi 和 Caragea (2011) 依靠用户的文本属性来建模用户资料数据，使用潜在狄利克雷分配 (LDA) 来建模主题；但在这里，链接预测仅基于生成的主题分布，而不是网络结构。其他作品，如 Wang 等人 (2018)，通过将用户帖子生成的网络与原始“关注”网络融合来提高预测性能，但他们没有考虑基于内容的特征。Xu 等人 (2021) 使用来自异构数据集（例如 DBLP 的论文）的非结构化文本内容，通过 GNN 获得主题感知节点嵌入表示。直到最近，在推荐系统领域，LM 和 GNN 才被结合起来以获得知识感知推荐（Spilo 等人，2023）。总体而言，使用文本进行预测似乎可以提高性能；然而，所有这些方法都只在静态网络上进行了测试 。此外，缺乏关于使用基于文本的特征的最佳策略的知识。在这项工作中，我们使用基于 LM 的句子编码器来应对后者的问题，这些 LM 代表了不同 NLP 任务的最新进展（Reimers & Gurevych，2019），结合时间图神经网络（Longa 等人，2023），在最近提出的时间训练和评估设置中分析不断发展的在线社交网络。

3.基于内容的社交网络分析。在处理不同的在线社交网络分析应用的一些工作中，也成功地使用了拓扑和内容相结合的方法 。例如，在 Garimella 等人 (2021) 的论文中，作者利用在线新闻网络的链接结构和通过有助于理解在线新闻消费中的两极分化，研究人员能够更深入地了解用户的明确内容选择。在 Villa 等人 (2021) 的论文中，他们提出了一种基于将社区检测策略应用于不同拓扑结构的方法——以及 Twitter 上 COVID-19 对话图的内容感知表示来检测回音室。在 Kumar 等人 (2018) 的论文中，他们利用 Reddit 超链接网络和基于 Word2vec 的用户和 subreddit 嵌入来分析平台上的社区互动和冲突。

4，基于区块链的 OSN。基于区块链的在线社交网络 (BOSN) 指的是一种 Web 应用程序，它 (i) 通过提供一组“社交操作”（例如关注、评论和投票）实现账户之间的在线互动；(ii) 其核心功能由底层区块链支持，该区块链确保操作的持久性和有效性，并使用高分辨率时间戳存储每条信息。
由于每个操作都存储在区块链上，这些平台提供了网络活动的详细数据源，不仅涵盖社交方面，还涵盖经济领域；例如，用户之间的加密货币交换。近年来，许多不同的研究领域都受益于这些大量的时间和异构数据，这些数据捕捉了人与人之间以及人与平台之间互动的不同方面。大多数关于 BOSN 的研究都集中在 Steemit 上，因为它是最广泛的 BOSN 平台之一，被认为是 BOSN 生态系统的先驱。一些最近的研究说明了最相关的进展和问题 (Guidi，2021；Ba 等，2022a，2022b)。
在 Dileo 等人 (2022) 的论文中，**我们应用了最先进的图神经网络来评估文本内容对区块链 OSN 中链接预测的影响。**我们将 Steemit 建模为时间属性图，并表明 (a) GNN 优于逻辑回归或集成方法等成熟的方法；(b) 可以使用文本特征作为节点属性来增强 GNN 的预测性能。尽管这项工作强调了文本内容对链接预测以及网络演进的影响，但 (i) 它仅考虑了一些基于文本的统计数据和浅层特征来获得文本表示，而没有考虑提供高维和基于语义的文本嵌入的预训练深度学习语言模型；(ii) 它仅对一个未来快照执行未来链接预测，而没有提出处理多个后续快照的方法。在这里，我们通过在上述两个方向上采取行动来扩展这项先前的工作 。

Method

链接和文本信息可以建模为属性时间有向图 G = (V, E, T, X)，其中 V 是用户集，链接 (u, v, t) ∈ E 表示在时间 t（用户 u 开始关注用户 v 的时间）从用户 u 到用户 v 的有向“关注”链接，T 是时间戳集，X 是节点属性的 |V| × f 矩阵 ，f 是属性向量的维数 (Liu et al, 2023)。给定时间间隔 [t0, t1]，快照图 G[t0,t1] 表示有向图，其中对于每个链接 e = (u, v, t) ∈ E，我们有 t ∈ [t0, t1]。为简单起见，由于某个时间间隔内的所有边都被视为共享相同的时间戳，我们使用符号 Gt 来表示快照图，其中 t 是时间间隔。
**给定一个快照图 Gt ，未来链接预测的目的是预测哪些边将出现在连续的图快照 Gt+1 中。**该问题可以视为二元分类任务，如果预测链接将在下一个时间间隔内形成，则分配标签 1，否则分配标签 0（Liben-Nowell & Kleinberg，2003）。图 1 展示了我们在在线社交网络上进行未来链接预测的设置示例。我们使用截至时间 t 的信息来预测时间 t + 1 时的潜在边。我们采用传导设置来预测在所有未来快照中初始快照中观察到的节点之间的新“跟随”链接。
主要思想是实现一个基于序列的框架，以便可以在连续构建的数据集上评估链接预测算法的训练和评估。为此，我们依靠 Liu 等人（2016 年）中提出的时间链接预测实验设置。给定一个时间间隔序列 [t0, …, tn]：

– Gt0 用于检索边列表、它们的相关节点以及与在时间间隔 t0 内发布的文档集合相关的文本特征。
– Gti 是作为限制在 Gt0 节点周围的诱导子图获得的。这种限制使我们能够有效地理解图及其连接如何演变。
然后，只考虑在 ti 中闭合而在 ti-1 中不闭合的边来形成正集。
同时，从相同的节点种子开始，一组随机提取的不存在的边被视为形成负集。最终数据集导致图 1 在线社交网络中未来链接预测的示例。我们使用截至时间 t 的信息来预测时间 t + 1 时的潜在边正集和负集的组合；对于每个项目，添加一个二进制标签 y 来指示该项目是否是现有边。如果 i < n，其中 n 是快照数，则计算与时间间隔 ti 内发布的文档集合相关的文本特征。

从原始完整集合中随机选择边子集是获得负集的标准做法（Pareja 等人，2020 年）。尽管这种策略可能会导致过于乐观的结果，但对于某些评估指标而言，从测试集中对负集进行子采样不会产生负面影响（Yang 等人，2014 年）。

A.文本表示

我们收集每个用户在一定时间间隔内撰写的帖子和评论，以获取文本信息作为节点特征。例如，我们能够检索用户在 2016 年 9 月撰写的所有内容，并根据下面描述的方法对其进行处理，以获得他/她撰写的文本信息的基于向量的表示，并将其用作“关注”图中代表用户的节点的属性。
**我们使用基于 BERT 的预训练模型来获取文档的欧几里得表示，**因为 BERT 语言模型预训练代表了各种 NLP 任务（如句子分类或句子对回归任务）的最新性能 （Devlin 等，2019 年）。特别是，我们选择 Sentence-BERT (SBERT)（Reimers & Gurevych，2019 年）作为文本嵌入模型，因为它能够得出语义上有意义的句子嵌入。这意味着语义上相似的句子在向量空间中会很接近，因此我们可以轻松地遵循用户之间关于文本内容的同质性原则（Khanam 等人，2022 年）。
图 2 显示了 SBERT 模型架构的一个示例。SBERT 在 BERT 的输出中添加了一个池化操作，以得出固定大小的句子嵌入。
在我们的工作中，我们使用平均池化操作。然后，为了对 BERT 进行微调，它创建了连体网络和三重网络（Schrof 等人，2015 年）来更新权重，使得生成的句子嵌入在语义上有意义，并且可以通过余弦相似度进行比较。

我们使用全 MiniLM-L6-v2 SBERT 模型来获取用户撰写的每篇帖子和评论的矢量表示。我们之所以选择此模型，是因为 (i) 在所有可用的训练数据（超过 10 亿个训练对）上进行训练，(ii) 设计为通用模型，并且 (iii) 比最好的 SBERT 模型快五倍，但仍然提供良好的质量。 为了获取每个节点的初始特征，我们对每个用户的集合中的文档嵌入取平均值。如果用户在一定时间间隔内没有撰写帖子和评论，则其初始文本特征将为零向量。请注意，如第 4 节所述，没有用户缺少节点特征，因为在第一个时间间隔内，他们都撰写了至少一篇帖子或评论。
正式地，我们将获取文本嵌入作为节点特征的过程总结如下。对于每个时间间隔 t，我们将 D(u,t) 称为用户 u 在时间间隔 t 内发布的文档（帖子和评论）的集合。获取 u 的初始节点特征 X(u,t)在时间 t，我们对其文档嵌入求平均值，即 X(u,t) = 1 · D(u,t) · ∑ d∈D(u,t) SBERT(d) 使用逐元素和。

图2具有分类目标函数的 SBERT 架构示例，例如用于对某个数据集进行微调。 两个 BERT 网络具有绑定权重（孪生网络结构）

B.ROLAND 框架

**ROLAND You et al (2022) 是一个用于构建、训练和评估动态图神经网络的图表示学习系统。**本小节将总结该框架背后的主要思想。
图神经网络图神经网络 (GNN) 是一种深度学习模型，可以自然地处理图结构数据 Wu et al (2021)。GNN 学习将各个节点映射到称为嵌入的固定大小的实值向量。学习到的嵌入总结了网络的结构信息，同时还考虑了节点的属性。然后，这些矢量表示可用于解决图上的不同有用问题（例如链接预测）。它们通过聚合邻居的特征 hu（其中 u ∈ N(v)（u 的邻域）并将它们与其特征 hv 相结合来生成节点 v 的表示。正式地，我们可以使用矩阵 H(L) = {h(l) v }u∈V 来表示应用 L 层 GNN 后所有节点的嵌入。GNN 的第 l 层 H(l) = GNN(l) (H(l−1) ) 可以写成：

其中 h(l)v 是通过 l 层之后的 v ∈ V 的节点嵌入，h(0)v 是节点的初始表示（即其节点特征），m(l)v 是消息嵌入，N(v) 是 v 的直接邻居。不同的 GNN 可以具有各种消息传递（MSG）和聚合（AGG）功能的定义。

图3 ROLAND 模型设计原理。ROLAND 通过插入嵌入更新模块将任何静态 GNN 扩展为动态图，这些模块会随时间更新分层节点状态 Ht

ROLAND 模型设计 图 3 展示了如何按照 ROLAND 模型设计原则将 GNN 推广到动态设置。ROLAND 的两个主要创新是将不同 GNN 层的节点嵌入视为分层节点状态，然后通过可定制的嵌入模块随时间循环更新它们 。我们在算法 1 中总结了基于 ROLAND 的模型的前向计算。行 (4) 处的 UPDATE 函数可以是任何函数，它获取某一层的前一个和当前节点状态并生成混合这两条信息的新当前节点状态。行 (6) 处的 DECODER 函数获取当前快照的任何候选对并在输出中发出一个分数 s：两个节点之间的链接存在可能性越大，得分越高。为简单起见，算法仅报告在正集上计算得分的符号。

训练和评估过程我们可以总结基于 ROLAND 模型的训练和评估过程，步骤如下：
1.将当前快照的数据集拆分为训练集和验证集。
2. 在训练集上训练模型，优化二元交叉熵损失，直到验证集上的预测性能不再变差（提前停止条件）。
3. 计算下一个快照的预测性能。
4. 从第一个快照重复步骤 1-3 直到倒数第二个快照。
5. 通过对单个快照的性能进行平均来计算模型随时间变化的预测性能
请注意，模型不会在每次快照后重新初始化，因此在第一次快照之后的训练过程是对训练模型的微调步骤。这种训练和评估过程称为实时更新设置 。

C.带有文本的动态链接预测模型

图 4 显示了我们方法的流程。从区块链开始，我们收集用户在一定时间间隔内撰写的“关注”链接和文档。我们使用 Sentence-BERT 处理文本，为每个用户发布的文档集合生成欧几里得文本表示，如第 3.2 节所述；然后，我们构建快照图序列，如第 3.1 节所述，最后使用第 3.3 节所述的实时更新设置输入我们的模型。
我们的模型架构包括：（i）两个 MLP 层，用于预处理节点特征，即高维 BERT 表示，（ii）基于 ROLAND 模型设计的动态两层 GCN（Kipf & Welling，2017）；和（iii）HadamardMLP（Wanget al, 2022) 作为解码器，通常比其他解码器更有效地进行链接预测。
表 1 列出了每个深度学习层的维度。对于嵌入更新模块，我们考虑了三种简单但有效的方法：

数据集

在本节中，我们将简要介绍与我们的工作更相关的社交平台 Steemit 的功能，并介绍我们为评估我们的方法而收集的数据集。
Steemit 上的用户可以访问各种操作，这些操作可以以三秒的时间精度跟踪用户活动，并可通过特定的 API 检索。
通过 API 收集了 2016 年 6 月 3 日至 2017 年 1 月 2 日的 数据。
开始日期对应于 Steemit 上提供“关注”操作的时间。
我们考虑了两种类型的信息：(**a) custom_json 事务中提供的“关注”关系；(b) 评论事务中提供的帖子、评论和标签。总体而言，我们 处理了 1,273,657 个“关注”操作和 2,122,163 份文档。**为了生成属性图序列，根据第节中描述的技术处理数据集。 3.
H(l) t = � ∗ H(l) t−1 + (1 − �) ∗ Ĥ (l) t H(l) t = MLP( CONCAT( H(l) t−1, ̂H(l) t )) H(l) t = GRU( H(l) t−1, ̂H(l) t ) 表 1 我们模型中每个深度学习层的输入和输出通道数 层

由于网络刚刚开始增长，我们使用前三个月的数据作为初始训练快照，以便有足够的节点来预测新链接，并有足够的边来学习网络结构。第一个快照有 20,849 个节点和 138,604 条边。然后，我们使用每月快照频率 。
表 2 提供了数据集快照的汇总统计信息。对于每个快照，我们报告了新边的数量、文档（帖子和评论）、作者撰写的文档的平均数量（即至少写过一条评论或帖子的用户）以及作者率（即作者数量除以节点数量）。我们观察到，新边的数量随着时间的推移略有减少，但仍在数万左右，而作者数量急剧下降。然而，作者撰写的文档的平均数量大致保持不变，初始作者率等于 100%，因此没有节点在开始时缺少特征。

图 5 显示了 **2016 年 9 月和 12 月生成的内容长度分布，即第一次和最后一次测试快照。**尽管文档和作者的数量随着时间的推移而减少，但这两个分布看起来非常相似，因此用户在 Steemit 上撰写帖子和评论的努力并没有减少，新的文本内容不容忽视。
最后，超过 85％ 的内容都是用英语撰写的，因此内容的制作几乎是单语的。

实验

实验设置

任务。我们基于 ROLAND 框架在未来链接预测任务中评估我们的模型。在每个时间 t，模型利用截至时间 t 积累的信息来预测快照 t + 1 中的边缘。我们使用精确召回曲线下面积 (AUPRC) 来评估候选模型，正如 Yang 等人 (2014) 所建议的那样，并在先前的工作中也采用了这一方法 (Rossi 等人，2020)。我们执行随机负抽样5 以在数据集中获得相同数量的正例和负例。我们考虑实时更新的训练测试拆分方法 (You 等人，2022)，该方法评估所有可用快照的模型性能。我们随机选择每个快照中的 25% 的边缘来构建验证集并确定早期停止条件。我们使用 Adam (Kingma & Ba, 2015) 作为优化器，通过网格搜索对学习率和权重衰减进行超参数调整，测试数量级从 10−1 到 10−5。我们使用 3 个不同的随机种子所有实验，报告每种方法的平均结果和标准差，如 You et al (2022) 所述。基线。我们使用 lwa、ConcatMLP 和 GruCell embedding-update 模块评估我们的模型。我们将我们的方法与五个基线进行了比较：

所有结果将以不同快照（从 2016 年 9 月到 2016 年 12 月的几个月）和一段时间内的未来链接预测任务的 AUPRC 分数的形式呈现，即通过对几个月的 AUPRC 分数进行平均。表 3 显示了我们的模型使用可学习加权平均值、ConcatMLP 或 GRUCell 作为嵌入更新模块的结果 。使用 ConcatMLP 模型可实现最佳性能，因为它的最终表示可能代表了过去和当前节点嵌入之间的良好折衷。相反，GRU 单元过于重视过去的表示，因为 lwa 更新模块在较小的 휏 值下实现了最佳性能。但是，lwa 可能因作为聚合方法过于简单而受到影响。

表 4 显示了 GCN、MLPText 和 DummyClassifer 的结果，它们是在 ROLAND 框架之外设计的基线（即没有节点嵌入更新和随时间进行微调） 。我们的模型优于这三个基线。这些结果表明 ROLAND 框架背后的模型设计原则在未来链接预测任务上的有效性。

最后，表 5 显示了**基于 ROLAND 的模型使用文本特征和图卷积（我们的模型）、无节点特征（ROLANDStruct）和无图卷积（ROLANDMLP）进行动态链接预测的结果。**如第 5.1 节所述，我们回想一下，ROLANDStruct 模型仅学习图的结构，而 ROLANDMLP 仅使用文档集合。我们的解决方案实现的文本特征和动态 GNN 的组合可带来最佳性能。 ROLANDStruct 模型在前两个快照上良好，但随着文档集合规模的增加，其性能会变差，而 ROLANDMLP 的性能则呈现出相反的趋势。两种不同的行为表明文本内容对后续多个快照的未来链接预测的重要性：在 Steemit 诞生的头几个月之后，即使对于为动态图设计的神经网络，使用或不使用文本信息都会导致性能变化高达 10%。

解决方案的可扩展性和通用性

所提出的解决方案具有通用性，可以应用于对提供高分辨率时间网络和用户生成文本数据的各种社交平台进行未来链接预测。为此，我们在另一个 BOSN 数据集上我们的框架。
具体来说，我们专注于 Steemit 的金融层，收集一年半期间用户与其文本内容之间的经济交易。该期 间从 2016 年 6 月 3 日开始，到 2017 年 12 月 31 日结束。前六个月用作初始训练快照，而剩余一年分为两周快照。
总体而言，我们处理了 274,872 个交易操作和 241,677 个评论操作，在 26 个快照中获得了一个包含 14,814 个节点和 106,614 条边的图。我们在图 6 中逐个快照报告了模型的结果。随着时间的推移，我们模型的平均性能为 AUPRC 得分 0.893，这与“跟随”链接预测任务中呈现的结果一致。
这些实验还显示了我们的解决方案在具有四个以上图形快照的情况下的可扩展性，例如“跟随”链接的情况。我们在 NVIDIA Corporation GP107GL [Quadro P400] 上实验。在金融层上训练我们模型的一个配置大约需要 5 分钟。

总结

在这项工作中，我们使用时间图学习来研究文本信息在动态网络上的链接形成中的作用 ，这是一项重要任务，因为文本可以改善预测并深入了解链接形成过程。为此，我们在时间属性网络上使用文本执行未来链接预测 。我们依靠基于区块链的在线社交网络 Steemit，它可以检索经过验证的高分辨率时间信息。我们提供了**一种基于 ROLAND 动态图图学习框架的方法，包括如何使用预先训练的基于 BERT 的语言模型获取用户文本特征。**我们在 Steemit 的前 6 个月评估了我们的模型，将它们拆分为每月的后续图快照。
我们表明，**文本特征和动态 GNN 的组合随着时间的推移会带来最佳性能。**这意味着，一般来说，使用结构和文本信息可以获得最佳结果，从而允许它们的表示随着不同的快照而更新。与没有节点特征的基于 ROLAND 的模型相比，使用文本内容的性能提升随着时间的推移而增加，平均而言，文本特征可以将性能提高 3.1%。
我们还研究了三种简单但有效的方法来执行节点嵌入的更新。在考虑的模块中，最好的嵌入更新模块是 ConcatMLP 模型，因为它的最终表示可能代表了过去和当前节点嵌入之间的良好折衷。相反，GRU 单元过于重视过去的表示，而可学习的加权平均更新在较小的 휏 值下实现了更好的性能。
最后，我们在多个后续快照中展示了文本内容的作用。不使用文本信息的动态模型在前两个快照上良好，但随着文档集合的大小增加，其性能会变差。最重要的是，我们可以观察到仅使用文本数据的动态模型的相反趋势。
一般来说，时间图学习是一种有前途的文本动态链接预测解决方案。然而，这是一个相对尚未得到充分探索的框架，而且受到静态图学习的影响。例如，动态图上的链接预测任务的评估涉及随机负边采样，这可以导致非常乐观的结果。需要进一步研究构建“硬”负集，特别是在在线社交网络上，其中出现在先前快照中的边在当前时间间隔内保持关闭。
未来的工作将解决时间图学习框架的弱点。此外，我们计划提出一种在归纳设置中适用于异构和动态图的方法。最后，我们想分析如何解释动态图神经网络做出的决策，以及该模型是否也能让我们更好地理解正在研究的网络的演变 。