文章总结: 本文介绍北邮与新加坡管理大学提出的HeTGB基准,用于评测异配文本属性图上的GNN、预训练语言模型及协同训练方法。实验表明文本能增强异配GNN效果,但语言模型需微调且需显式适配异配关系,图文协同需兼顾效率与性能。
综合评分: 85
文章分类: 其他
EMNLP 2026 | 异配文本属性图学习系统评测
原创
李书杰
李书杰
北邮 GAMMA Lab
2026年9月29日 11:34
北京
在小说阅读器读本章
去阅读
在公众号小说中沉浸阅读
在网页、社交网络与电商平台中,“相连”往往不等于“相似”。一个课程页面会链接到教师主页;两位共同出演同一部电影的演员,可能来自不同类别;经常被一同购买的商品,也未必具有相同评分。这样的图被称为异配图(Heterophilic Graph):相邻节点的类别或属性往往不同。
但真实世界的节点通常不只有结构,还带有网页正文、人物简介、商品描述等丰富文本。已有异配图基准多只提供词袋、关键词或静态向量,难以研究语言模型如何利用节点文本;而现有文本属性图(Text-Attributed Graph, TAG)基准又大多以同配结构为主。面对“结构异配 + 文本丰富”的真实场景,我们到底该如何公平比较 GNN、预训练语言模型与二者结合的方法?
为此,北京邮电大学与新加坡管理大学提出 HeTGB(Heterophilic Text-attributed Graph Benchmark):一个面向异配文本属性图的综合基准,为结构与文本的协同建模提供统一、可复现的评测基础。
- 论文: HeTGB: A Comprehensive Benchmark for Heterophilic Text-Attributed Graphs
- 作者: Shujie Li, Yuxia Wu, Yuan Fang, Chuan Shi
- 关键词: 异配图、文本属性图、图神经网络、预训练语言模型、协同训练
- 代码与数据:https://github.com/honey0219/HeTGB
一、为什么“图 + 文本”不能只看一边?
传统 GNN 依赖邻居聚合:把相邻节点的信息汇总到目标节点。当邻居大多属于同一类别时,这一机制自然有效;但在异配图中,邻居常常提供的是互补而非重复的信息。若仍简单聚合,模型可能把本应区分的类别混在一起。
另一方面,节点文本蕴含了丰富语义。只用图结构,会忽略网页正文、人物介绍和商品描述;只让语言模型读文本,又容易遗漏“谁和谁相连”所提供的关系线索。异配文本图学习的难点正是:如何同时理解文本语义与非同质的结构关系,并在两者发生张力时做出合适判断?
现有基准通常只能覆盖其中一面:异配图数据缺乏原始长文本,文本图数据又多为同配结构。因此,模型的改进究竟来自文本、结构,还是特定数据设定,长期缺少统一答案。
二、HeTGB:同时具备异配结构与丰富文本
HeTGB 收集并重建了五个真实世界数据集,覆盖网页、社交网络和电商三类场景。每个节点均保留可供语言模型处理的文本描述,并配备统一的数据划分、节点分类任务和基线实现。
图 1:HeTGB 是对比中同时具备“异配结构”和“丰富文本”的一组数据集。
五个数据集的语义与结构来源各不相同:
- Cornell、Texas、Wisconsin: 大学网页图。节点是网页,边是网页之间的超链接,文本来自网页完整内容。
- Actor: 演员共现图。两位演员在同一个 Wikipedia 页面中出现即形成连接,节点文本来自人物介绍与页面类别信息。
- Amazon: 商品共购图。边表示商品经常被一同购买,节点包含商品描述与早期用户评分等文本信息。
在构建过程中,作者特别处理了潜在标签泄漏。例如,Actor 数据中移除了直接对应类别标签的词;Amazon 数据中移除了平均评分这一目标相关字段,仅保留至多五条早期用户评分及商品描述。这使得模型必须从真实语义和结构中学习,而不能“读到答案”。
三、三类方法放到同一张考卷上
基于 HeTGB,论文系统比较了三种学习范式:
- GNN-based: 以图结构为核心,包括经典 GNN 与面向异配图设计的方法;同时比较浅层特征和由语言模型得到的文本表示。
- PLM-based: 将节点及其上下文转写为文本,考察零样本与微调后的语言模型表现。
- Co-training: 联合利用 GNN 的结构建模能力与语言模型的语义理解能力。
下图展示了不同范式在五个数据集上的节点分类准确率。论文中的全部实验重复 10 次,并报告均值与标准差。
图 2:不同方法在 HeTGB 上的 Accuracy。粉色标出面向异配文本图的 LLM4HeG。
四、从实验中能读出什么?
第一,文本确实有用,但不能替代异配结构建模。将浅层特征替换为语言模型生成的文本表示后,异配 GNN 的效果在五个数据集上整体提升。例如 FAGCN 在 Cornell、Texas、Wisconsin、Actor、Amazon 上分别从 73.33、82.50、80.35、73.79、47.50 提升至 76.43、84.55、83.16、75.58、49.83。丰富文本为结构模型带来了更细粒度的语义信息。
第二,语言模型不能“拿来即用”。零样本 PLM 在图节点分类上表现很弱:它们虽能理解文本,却并不知道如何利用图中的结构依赖。经过微调后,Vicuna-7B 的成绩显著提升;但在强异配的 WebKB 数据上,专门的异配 GNN 往往依然更具优势。这说明文本理解与图结构推理是两种不可互相替代的能力。
第三,真正有效的结合必须对异配关系“有感知”。通用的图文协同训练方法在异配场景中并不稳定,甚至不如仅微调语言模型。相对地,面向异配文本图设计的 LLM4HeG 在五个数据集上均取得该表中的最佳结果,准确率分别为 77.62、89.09、86.14、76.82 和 51.53。这表明,关键不在于把文本和图简单拼接,而在于让模型显式适配“邻居不同类”的关系模式。
五、效果之外,还要考虑效率
更强的图文协同通常伴随更高成本。论文进一步比较了每种范式中最优方法的训练与推理时间:GNN 最轻量;引入语言模型文本表示后成本有所上升;微调 PLM 与协同训练方法则明显更耗时,尤其是在 Actor 和 Amazon 等更大规模数据上。
图 3:性能与成本之间存在明确权衡。纵轴为对数刻度。
因此,HeTGB 不只回答“谁的准确率更高”,也为后续研究提供了一个更实际的问题:在异配文本图上,如何设计既能融合结构与文本、又足够高效的方法?
六、结语
HeTGB 补上了异配图学习与文本属性图学习之间长期存在的评测空白:它让研究者能够在真实、带文本的异配图上,统一检验 GNN、语言模型及其协同方法。
论文的核心启示很明确:文本为异配图带来新的语义线索,结构为文本补充关系上下文;但二者的融合必须理解异配关系本身。
未来,围绕结构-语义对齐、更高效的图文协同训练,以及更大规模、更复杂的异配文本图,仍有很大的探索空间。HeTGB 希望成为这类探索的共同起点。
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:北邮 GAMMA Lab 李书杰
李书杰《EMNLP 2026 | 异配文本属性图学习系统评测》