GAT

GAT — это графовая сеть внимания, архитектура нейросети для данных в виде графа: объекты-узлы и связи-рёбра. Обычные сети требуют ровной таблицы, а GAT анализирует запутанные «паутины» целиком. Многие реальные явления — графы: молекулы, дорожные сети, связи белков. Ранние графовые модели считали всех соседей равноценными, но в жизни одни связи важнее других.

Идея GAT — механизм внимания. Для каждой пары «узел — сосед» сеть вычисляет вес важности, зависящий от характеристик обоих узлов. Затем узел обновляет своё представление как взвешенную сумму состояний соседей. Веса динамические, подстраиваются под задачу, поэтому модель замечает тонкие закономерности: например, при выборе фильма важнее мнение киномана, чем близкого родственника.

Пример: предсказание токсичности молекул. Молекула — граф из атомов и связей. GAT выявляет, какой атом или группа вносит решающий вклад в опасность вещества. Это помогает фармакологам отсеивать неудачных кандидатов в лекарства, экономя годы экспериментов.

Итог: GAT — способ заставить нейросеть избирательно слушать соседей в графе, отличать значимые связи от шума. Это открыло путь к задачам, где классические алгоритмы пасовали: от соцаналитики до поиска новых материалов.