시간 그래프에 대한 기초 모델의 신경 스케일링 법칙을 향하여

시간 그래프 학습 분야는 진화하는 네트워크 데이터를 통해 미래의 상호작용을 예측하는 것을 목표로 합니다. 관찰된 시간 그래프의 집합을 고려할 때, 동일한 도메인에서 보이지 않는 네트워크의 진화를 예측할 수 있을까요? 이 질문에 답하기 위해, 우리는 2017년부터 2023년까지 수집된 84개의 ERC20 토큰 거래 네트워크로 구성된 대규모 시간 그래프 집합인 Temporal Graph Scaling (TGS) 데이터셋을 먼저 제시합니다. 다음으로, 64개의 토큰 거래 네트워크까지의 집합에서 사전 훈련을 한 후, 20개의 보이지 않는 토큰 네트워크에서 하류 성능을 평가하여 시간 그래프 속성 예측 작업에 대한 Temporal Graph Neural Networks (TGNNs)의 전이 가능성을 평가합니다. 우리는 NLP 및 컴퓨터 비전에서 관찰된 신경 스케일링 법칙이 시간 그래프 학습에도 적용된다는 것을 발견했으며, 더 많은 네트워크에서의 사전 훈련이 하류 성능을 향상시킵니다. 우리가 아는 한, 이는 시간 그래프 학습의 전이 가능성에 대한 첫 번째 실증적 증거입니다. 하류 토큰 네트워크에서 가장 큰 사전 훈련 모델은 13개의 보이지 않는 테스트 네트워크에서 단일 모델 TGNNs보다 성능이 우수합니다. 따라서 우리는 이것이 시간 그래프를 위한 기초 모델 구축을 향한 유망한 첫 걸음이라고 믿습니다.