Mug: предварительное обучение гетерогенных графов с учетом метапутей

В этой работе представлен MUG — метод предварительного обучения универсальных гетерогенных графов, учитывающий метапути. Предварительное обучение графов стало важным для многих задач, но существующие методы часто ограничены определенными типами графов или не учитывают богатые семантические отношения, закодированные в метапутях.

Метапути — это последовательности узлов и связей, которые представляют семантические отношения в графе. MUG использует метапути для улучшения процесса предварительного обучения, изучая представления узлов, которые учитывают различные типы связей и их комбинации.

MUG состоит из двух основных этапов: выборка метапутей и обучение представлений. На этапе выборки метапутей MUG отбирает репрезентативный набор метапутей из графа, используя случайное блуждание с ограничением длины. На этапе обучения представлений MUG использует функцию потерь контрастивного обучения, чтобы научиться создавать представления узлов, которые близки друг к другу, если они связаны метапутями, и далеки друг от друга, если они не связаны.

Авторы провели эксперименты на нескольких наборах данных, включая гетерогенные графы знаний, социальные сети и биологические сети. Результаты показывают, что MUG превосходит существующие методы предварительного обучения графов по различным задачам, таким как предсказание связей, классификация узлов и кластеризация графов. MUG обеспечивает значительное улучшение производительности, особенно в сценариях, где важны семантические отношения, закодированные в метапутях.