Hugging Face выпустила открытую ИИ-модель Carbon-X для разговоров с ДНК

Платформа искусственного интеллекта Hugging Face в четверг выпустила новую открытую модель для понимания ДНК, которая способна работать локально на ноутбуке. Разработка велась совместно с исследователями из Академии Чжунгуаньцунь в Китае и Университета Неаполя имени Федерико II в Италии. Модель обучена на геномных последовательностях и естественном языке, так что пользователи могут задавать вопросы о том, как изменения в ДНК влияют на активность генов и здоровье, и получать ответы в формате разговора.

Льюис Танстолл, старший научный сотрудник Hugging Face, говорит, что инструмент призван помочь исследователям разрабатывать новые лекарства и генетические терапии, а в перспективе может помочь пациентам интерпретировать собственный геном. «Мы открыли новую возможность для языковых моделей — по сути, способность разговаривать с ДНК», — говорит он о модели, получившей название Carbon-X. Использование естественного языка означает, что даже нетехнические пользователи «могут задавать вопросы о ДНК, которые были бы недоступны через любой другой инструмент».

Hugging Face, которую называют своеобразным GitHub для моделей ИИ, предоставляет библиотеку готовых инструментов и платформу для запуска преимущественно открытых ИИ-приложений для разработчиков, исследователей, бизнеса и всех, кто хочет экспериментировать с ИИ, не создавая всё с нуля. В сентябре Nvidia согласилась приобрести компанию почти за 13 миллиардов долларов. Кроме того, ранее в этом году Hugging Face оказалась в центре громкого взлома, совершённого моделями OpenAI.

ДНК больше похожа на компьютерный код, чем на естественный язык. Правда, вместо нулей и единиц она использует буквы A, C, G и T для кодирования информации. Человеческий геном содержит 6 миллиардов таких букв. Хотя геном человека секвенирован от начала до конца, учёные до сих пор не понимают, как работает большая его часть. Теперь ИИ-модели помогают исследователям разгадывать некоторые из этих загадок. В прошлом году Google DeepMind выпустила AlphaGenome, которая предсказывает эффекты последовательностей ДНК и генетических мутаций, но делает это в числовом формате и требует больше вычислительных мощностей. Модель Evo 2, разработанная Институтом Арка и Nvidia вместе с академическими партнёрами, говорит на языке ДНК и может генерировать целые геномы с нуля.

Carbon-X объединяет ДНК и естественный язык в разговорном интерфейсе — её можно представить как ChatGPT для ДНК. Команда начала с существующей языковой модели и расширила её словарь, чтобы читать ДНК группами по шесть букв. Затем обучение продолжилось на 300 миллиардах фрагментов данных, или токенов, объединивших последовательности ДНК, английский текст и примеры, связывающие ДНК с биологическими описаниями. Последовательности брались у млекопитающих, включая человека, других позвоночных, беспозвоночных, растений, грибов и простейших. Танстолл говорит, что команда не обучала модель на вирусах, чтобы её нельзя было использовать для потенциально опасных применений.

Пользователи не смогут загружать полные геномы человека. Модель обучена принимать последовательности ДНК длиной примерно 50 тысяч пар оснований, так что запрашивать можно только небольшие участки генома за раз. Один из способов, которым учёные могли бы использовать Carbon-X, — понять, является ли генетическая мутация безвредной или вызывает заболевание. Это ключевой шаг в разработке таргетного препарата или генетической терапии. Если вмешательство нацелено не на ту мутацию, оно может оказаться совершенно неэффективным или, что хуже, причинить непреднамеренный вред.

Исследователи сталкиваются с ограничениями при загрузке идентифицируемых или чувствительных данных пациентов в передовые ИИ-модели, поэтому Танстолл говорит, что его команда намеренно создала небольшую модель с 14 миллиардами параметров. Это позволит запускать её локально на оборудовании пользователя, а не полагаться на облачные модели. По его словам, никакие данные не отправляются в Hugging Face или любую другую компанию. Разработчики Carbon-X предупреждают, что пока не проверяли модель с помощью реальных лабораторных экспериментов, поэтому не могут сказать, насколько точны её предсказания.