как его рассчитывать?
Обычно руками подбираю, там пропорционально-интегрирующий фильтр оптимален, есть какие-то пресеты, более того, они даже работают, но, кроме чисто академического интереса никакого практического толку в них нет - время на измерение данных (крутизна ЧФД, то же самое у ГУНов) тратится больше, чем руками поиграть, в сущности-то что нужно - чтобы в дальней зоне был минимум фазовых шумов, и в ближней чтобы возбуда не было, первое, что делаю - добиваюсь устойчивых показаний частотомера, затем смотрю Спектролабом ближнюю зону (обычно тут играю постоянной времени интегрирующей цепи - резистором и конденсатором, замыкающим управление варикапами на землю), ну, а затем - дальнюю зону. Останавливаюсь тогда, когда при приемлемой частоте перестройки, улучшить уже ничего нельзя.
Один раз сделав это руками, второй раз, сделаешь это существенно быстрее.
Общую теорию устойчивости, конечно же, мог бы привести, но смысла не вижу - там огород ещё тот...