Теперь и на частоте 290 тоже некорректно работает, а на диаграмме Смита артефакты появились уже в двух точках.
Подбирайте опытным путем другое значение частоты трешхолда, в пределах других 5...15МГц и так же внимательно смотрите меню настроек прибора - там нужно указать тоже свой тип микросхемы 5351, без этого не будет правильно работать.
Да, калибровать лучше после того, как прибор включен хотя бы более 5 минут и находился при комнатной температуре.
Иногда и при самом лучшем выборе частоты трешхолд небольшие артефакты все равно остаются на частотах переключения гармоник генератора - на них нужно просто "забить".
Главное - чтобы не было больших рывков, которые рвут диаграмму смитта на весь экран.
А DFU и куб - совершенно ненужные уже утилиты для прибора, это если запороть так, что иными средствами совсем не прошивается или не включается даже.