Глава Hugging Face: угроза не восстание машин, а закрытые разработки ИИ

На конференции WIRED World в Майами, прошедшей 5 ноября, генеральный директор открытой платформы искусственного интеллекта Hugging Face Клеман Деланг сделал заявление, которое заметно расходится с мейнстримным нарративом о «конце света из-за ИИ». По его оценке, вероятность того, что искусственный интеллект приведёт к вымиранию человечества, так называемый показатель P(Doom), стремится к нулю. Куда более реальную угрозу, по мнению предпринимателя, представляет собой не «восстание машин», а закрытая разработка передовых моделей горсткой крупных корпораций.

Деланг прямо указал: главный риск исходит не от открытой экосистемы, а от «нескольких игроков, которые варятся в собственном соку за закрытыми дверями». Пока общественность обсуждает фантастические сценарии гибели цивилизации, считает он, настоящая опасность вызревает в тиши корпоративных лабораторий, где доступ к технологиям имеют единицы, а внешний аудит фактически невозможен. Именно такая концентрация власти над ИИ, а не открытость кода, способна привести к непредсказуемым последствиям.

Рецепт снижения рисков, который предлагает глава Hugging Face, выглядит логично: чем больше разработчиков смогут открыто создавать, проверять и дорабатывать модели, тем быстрее сформируется система взаимного сдерживания. В его представлении открытые весовые модели — это не просто техническое решение, а инструмент защиты от монополизации. Если несколько компаний сосредоточат в своих руках таланты, вычислительные мощности и сами возможности ИИ, рынок и общество окажутся в уязвимом положении. Открытая разработка, напротив, распределяет эти ресурсы и не даёт задушить конкуренцию.

Любопытную деталь Деланг добавил к портрету своей компании. Аудитория Hugging Face уже превысила 20 миллионов разработчиков ИИ. Для сравнения: когда в сентябре этого года Nvidia объявила о покупке компании за 12,93 миллиарда долларов, речь шла примерно о 18 миллионах пользователей. То есть за считаные месяцы сообщество выросло ещё на пару миллионов человек, несмотря на смену владельца и сопутствующую шумиху. Кроме того, компания продала уже 50 тысяч двуногих роботов Microducks, которые умеют программироваться с помощью ИИ, — ещё один сигнал, что открытые инструменты выходят из категории лабораторных игрушек в массовый обиход.

Позиция Деланга встраивается в более широкий спор последних лет: регулировать ИИ через жёсткие ограничения на открытые модели или, наоборот, поощрять прозрачность. Пока законодатели в разных странах ищут баланс, глава Hugging Face настаивает, что демонизация открытого кода — ошибка, а концентрация передовых разработок в закрытых руках — недооценённая угроза. Его аргумент прост: общество уже научилось бояться «умного» ИИ, но пока плохо представляет, что делать с ИИ, который создаётся втайне от всех. И именно эта тихая, закрытая разработка, по его мнению, заслуживает куда большего внимания, чем апокалиптические прогнозы.