Статистическая цена нулевой подложки в сверточных нейронных сетях

В сверточных нейронных сетях (CNN) часто используется техника добавления нулевых пикселей по краям изображения – так называемая нулевая подложка. Она помогает фильтрам обрабатывать края изображений и контролировать размер выходных данных после свертки. Однако, с точки зрения обработки сигналов и статистики, это не нейтральная операция.

Добавление нулей создает искусственный разрыв между реальными пикселями и границей, что воспринимается сверточными фильтрами как резкий переход – как настоящий край. Модель начинает обучаться разным статистическим закономерностям в центре и на границах изображения, нарушая инвариантность к сдвигу и искажая активации на краях.

Вместо того, чтобы игнорировать границу, модель может начать интерпретировать её как важную особенность. Это происходит из-за резкого изменения интенсивности на границе между нулями и реальными пикселями, что приводит к искажению статистического распределения пикселей на краях изображения.

Для более надежных систем рекомендуется использовать альтернативные методы подложки, такие как отражение или повторение, которые сохраняют статистическую непрерывность границ и предотвращают обучение на артефактах.