Япония представила ИИ-проект, призывающий разработчиков раскрывать данные обучения

Японское правительство обнародовало проект руководящих принципов для разработчиков генеративного искусственного интеллекта. Документ, подготовленный аппаратом кабинета министров и представленный 18 августа, закладывает основы национального регулирования в сфере ИИ. В нём предлагается закрепить правило, согласно которому компании, создающие такие модели, должны раскрывать, какие данные они используют для обучения и каким именно образом эти данные собираются. Пока это лишь рекомендации, не имеющие обязательной силы, однако сам факт их появления указывает на серьёзное намерение властей упорядочить стремительно развивающуюся отрасль.

Разработчикам, как следует из проекта, придётся действовать максимально прозрачно. Предполагается, что они будут публично сообщать, использовались ли при обучении материалы, защищённые авторским правом, — например, музыкальные композиции, фильмы, комиксы, книги. Отдельно подчёркивается недопустимость сбора данных с пиратских сайтов. Кроме того, документ требует создать внутренние механизмы уведомления: если в обучающий набор попали объекты, похожие на контент, который способна генерировать модель, пользователь должен быть об этом предупреждён. Такая мера призвана снизить риск случайного воспроизведения фрагментов чужих произведений.

Проект сознательно сделан мягким: вместо жёстких запретов разработчикам предлагается самим оценивать риски, связанные с использованием тех или иных источников. Для Японии это особенно важно, поскольку страна остаётся одним из крупнейших производителей аниме, манги и видеоигр. Местные правообладатели давно выражают беспокойство по поводу того, что генеративные нейросети обучаются на их работах без разрешения. Новые принципы должны хотя бы отчасти снять эти опасения, сохранив при этом конкурентоспособность национальных компаний в глобальной гонке за лидерство в области ИИ.

Сейчас документ находится на стадии общественного обсуждения. После сбора замечаний его финализируют и утвердят окончательно. Хотя никаких санкций за нарушение рекомендаций не предусмотрено, участники рынка уже заявили, что готовы учитывать пожелания властей. Вопросов остаётся много: как именно раскрывать состав данных, насколько детальными должны быть описания источников, можно ли проверить достоверность заявлений разработчиков. Ответы на эти вопросы, судя по всему, появятся уже в ходе дискуссии. Тем временем мировое сообщество внимательно следит за японской инициативой — не исключено, что подобные подходы будут заимствованы и в других странах.