基于内存的时序图神经网络(MTGNN)模型通过使用节点内存和消息传递模块有效地预测时序图,以捕捉时序和结构信息。然而,大型图的分布式训练面临挑战,例如由于远程特征和内存传输导致的精度损失和效率降低。尽管在MTGNN系统优化方面有所改善,但诸如动态负载不平衡、通信开销和内存过时等问题依然存在。为了解决这些挑战,我们提出了MemShare,一个分布式MTGNN系统。MemShare引入了一种新颖的共享节点内存范式,利用跨机器和GPU的小部分共享节点来减少内存管理的分布式通信。它还结合了共享节点中心的图划分、共享节点感知的边界衰减采样和共享节点目标同步平滑聚合等技术。实验表明,MemShare在准确性和训练效率上优于现有的分布式MTGNN系统。
张等(周四)研究了这个问题。