У Хайсюй из MIT запускает стартап физически осмысленных мировых моделей
Сам У Хайсюй получил известность в академических кругах как первый автор работы GeoPT, представленной в начале года и вызвавшей широкое обсуждение в техническом сообществе. В этой работе предложен новый подход к предобучению, названный синтетической динамикой: статическая геометрия как бы «поднимается» в динамическое пространство, и модель учится на неразмеченных данных, отслеживая эволюцию траекторий частиц и приобретая таким образом физическую интуицию. Среди соавторов статьи — доцент Школы программного обеспечения Университета Цинхуа Лун Миншэн, научный руководитель У Хайсюя, известный исследователь компьютерного зрения Хэ Каймин из MIT и профессор MIT Войцех Матусик, в чьей группе У Хайсюй проходит постдокторантуру. По словам людей, близких к новому стартапу, его технологическая идея в определённой степени продолжает исследовательскую линию GeoPT, делая ставку на мировые модели, наделённые способностью к физическому моделированию.
Биография основателя выглядит внушительно. В 2016 году он поступил в Школу программного обеспечения Университета Цинхуа, а со следующего года параллельно осваивал вторую специальность — чистую и прикладную математику на кафедре математических наук. Летом 2019 года стажировался в группе визуальных вычислений Гарвардского университета под руководством профессора Ханспетера Пфистера. После бакалавриата продолжил обучение в аспирантуре Цинхуа в группе Лун Миншэна, которая поначалу занималась трансферным обучением, а затем сосредоточилась на базовых моделях временных рядов, пространственно-временном прогнозировании, применении ИИ в науке и мультимодальных мировых моделях. В 2022 году У Хайсюй получил специальную стипендию Цинхуа — награду, которую в разное время удостаивались основатель Moonshot AI Ян Чжилинь, исследователь OpenAI Чэнь Лицзе, Яо Шуньюй из Google и ряд других заметных фигур в индустрии.
Уже на защите стипендиального проекта он имел семь публикаций в ведущих конференциях и журналах класса CCF-A, включая ICML, NeurIPS и IEEE TPAMI, причём в шести из них был первым или одним из первых авторов. Его ключевым результатом стала модель Autoformer, впервые системно соединившая идею разложения временных рядов с усовершенствованным механизмом внимания и считающаяся вехой в долгосрочном прогнозировании временных рядов. Позже последовали работы PredRNN, Corrformer, Transolver и GeoPT. С 2025 года исследователь работает постдокторантом в лаборатории CSAIL Массачусетского технологического института, и GeoPT — его главная работа этого периода. Его научный руководитель Войцех Матусик известен в области вычислительного проектирования и производства, его интересы охватывают компьютерную графику, вычислительное производство и робототехнику, а цель — соединять алгоритмами цифровой мир с физическим производством.
На личной странице У Хайсюя указано, что он сосредоточен на глубоком обучении и научном машинном обучении и ставит целью построение масштабируемых принципов для физических систем. Его исследования делятся на три направления: масштабируемые магистральные сети на основе физических принципов, включая Autoformer, Corrformer и Transolver; сквозные базовые физические модели, такие как TimesNet, Unisolver и GeoPT; и системы научного обучения с учётом предметной области — Flowformer, Transolver++ и FlashBias. К настоящему моменту число цитирований его работ в Google Scholar превысило 29 тысяч, что для исследователя на этапе постдокторантуры выглядит весьма серьёзным показателем и объясняет повышенное внимание инвесторов к его первому предпринимательскому проекту.
Источник: www.qbitai.com
Поделиться