Итак, усиление от выхода смесителя к КФ составит 2*8.7-3=14.4 дБ=5.25 раз, ток коллектора выходного каскада 28 мА, в нагрузку 50 Ом (если там транс КФ реально столько имеет), транс на выходе каскада пиковый ток вдвое увеличит, пиковое напряжение, ограниченное током .028*2*50=2.4 В пикового, или 2 В действующего, что приведённое к выходу смесителя, составит 2/5.25=380 мВ.
Именно с этого напряжения на выходе смесителя, попадающего в диапазон пропускания диплексера, и начнётся коллапс схемы.
Реально даже чуть раньше - ведь при выходе частоты за полосу пропускания КФ, входное сопротивление первого транзистора существенно повысится, и напряжение помехи на выходе смесителя так же вырастет.
Плюс ко всему, и диплексер с непонятными номиналами...