Помоему ув. автар свалил все в кучу в всех и себя запутал

.
При интерполяции (как вы упомянули пример с повышением частоты дискретизации) вначале вставляются нулевые отсчеты, а ПОТОМ сигнал пропускается через интерполяционный фильтр. Не надо путать физический смысл с реализацией, которая в силу наличия нулевых отсчетов во входном сигнале позволяет уменьшить выч. сложность фильтра и совместить повышение частоты дискретизации и фильтрацию, так, что на первый взгляд кажется, что фильтруют входной сигнал, но это НЕ ТАК - фильтруется сигнал ПОСЛЕ повышения частоты дискретизации. Т.к. после добавления нулевых отсчетов мы имеем повторяющийся спектр из которого нада фильтром выделить то, что нас интересует. А до повышения частоты дискретизации нас интересует только то, что в спектре от 0 до 0.5 . Другое мы просто не можем обрабатывать (да, мы можем использовать subsampling, undersampling, но это фсе касается перехода от непрерывного к дискретному и наоборот). А теорема Найквиста (Котельникова) вообще никакого отношения к тому, что Вы написали о спектре не имеет (она только гласит, что для того, чтобы можно было восстановить из дискретного сигнала непрервный и наоборот частота дискретизации должна быть не менее, чем в два раза больше ПОЛОСЫ сигнала).
Но это так, отступление. В фотошопе вообще используется другой принцип. Как правильно написал ув. Ламер там фсе сделано через сплайн-интерполяцию. Т.е. как я понимаю они просто строят сплайн и рассчитывают значения новых (недостающих) точек на изображении. При таком методе ничего фильтровать потом НЕ НАДО. Т.к. учитывая некоторые свойства сплайна у нас уже спектр сигнала будет ограничен. Естественно спектр результата может оказаться незначительно шире спектра исходного изображения (это будет зависеть от типа сплайна, как и от характеристик фильтра в первом абзаце).
Воопщем аффтару еще раз прочитать учебник по цифровой обработке сигналов и выучить теорему Найквиста (Котельникова)

.