Progressive growing

Progressive growing — это техника обучения генеративных нейросетей, при которой модель сначала учится создавать картинки очень низкого разрешения (например, 4×4 пикселя), а затем постепенно добавляет слои, повышая качество до 1024×1024 и выше. Это похоже на художника, который сначала делает грубый эскиз, а потом детализирует его.

Прямое обучение на больших изображениях требует огромных вычислительных ресурсов и часто проваливается: модель «залипает» на шуме и не находит закономерностей. Progressive growing разбивает сложную задачу на последовательность простых: сеть стабильно осваивает общую структуру, затем доучивается добавлять детали на каждом новом этапе. Это делает обучение быстрее и надёжнее, позволяя получать фотореалистичные лица или объекты с разрешением, ранее недостижимым.

Интуитивно это работает так: на первом этапе нейросеть видит размытые пятна и учится отличать лицо от пейзажа. Затем добавляется слой для различения очертаний носа и глаз — но на крошечных картинках. Только после закрепления базовых навыков сеть получает доступ к деталям: текстуре кожи, бликам в глазах. Каждый новый уровень использует предыдущий как фундамент, поэтому не нужно переучиваться с нуля.

Классический пример — StyleGAN от NVIDIA. Благодаря progressive growing эта сеть в 2018 году поразила мир, создавая несуществующие лица, неотличимые от реальных фотографий. Без этого метода качество было бы хуже, а время обучения выросло в разы.

Кратко: progressive growing — это принцип «от простого к сложному» в ИИ. Он учит машины строить понимание поэтапно, что даёт впечатляющие результаты при экономии ресурсов. Сегодня этот приём уступил место новым методам, но именно он открыл эру качественной генерации изображений.