Игорь, нечё если на кварце 2 вэфф ?

Полагаю, что нормально. Но на 100% не поручусь. 
Если механически не сломается за пару месяцев работы, значит всё в порядке...

 

Пятого на месте третьего, это для других исходных частот или для тех же?

Для тех же самых. Ведь нелинейность чисто пятого порядка (см. скрин) даёт частотные компоненты выше верхней частоты на один и два разноса частот двухтонового сигнала, и ниже нижней частоты аналогично, т. е., грубо говоря, ни только на месте пятого порядка, но и на месте третьего - выше и ниже основных частот по две палки. 
Поэтому, не представляет особой сложности, при нелинейности как третьего, так и пятого порядка, подобрать эту нелинейность так, чтобы на частотах условно третьей нелинейности были нулевые палки, т. е., ближайшая от верхней частоты двухтонового сигнала будет на удвоенной частоте разноса, как и снизу. 
Аналогично, и седьмой порядок даёт три палки сверху, и три снизу, и при комплексной нелинейности третьего, пятого и седьмого порядков, полагаю, можно исхитриться на общем спектре какие-то компоненты поддавливать...

палки 5 и 7 интермодуля почти по одному уровню стоят

И рост их в зависимости от уровня основного сигнала уже не по квадратичному закону к основной компоненте, а по 4 и 6 степени, получается резкий переход к перегрузке
Я тоже давно, лет 10 назад смотрел такие фокусы

У меня тоже самописный И результаты примерно теже, что-то сдвигаешь и картина меняется. Но по полезности у меня другое мнение, определенные вещи становятся более понятны. Знание факторов влияния на уровень IMD дает большее число мыслей на тему что-то подправить и улучшить. По крайней мере понимать что от чего зависит в любом случае интересно.