Не ломай голову, такое позволяет делать плагин Redfield Fractalius v1.03
предварительно желательно сделать лёгкую обработку (уровни, кривые и т.д.)
Да, ещё момент, чтобы глаза не зафракталить, желательно продублировать слой, на нём плагин, и затем ластиком на втором слое удалить лишнее