к конденсатору С1 подключаю щуп одного из каналов цифрового осциллографа, к конденсатору С2 щуп другого канала осциллографа. На схеме показано красными стрелками.
Ну, и что Вы там собираетесь увидеть своим осциллографом? Ведь там же смесь разностной частоты, суммарной частоты, частоты входного сигнала, плюс, масса составляющих преобразования на меандре. Фигня же полная. Хотя бы свой дифвход карты откалибруйте на НЧ по тому же осциллографу, которым смотрели входное напряжение, и потом этим откалиброванным входом наконец-то найдите свои, как минимум, 3.9 дБ в идеале при дифвыходе, реально-то там будет, как минимум, на децибел хуже - ведь у Вас по входу 100 Ом ещё стоит.
Даже тупой симулятор и тот знает, что у однотактного смесителя именно 10 дБ, а никак не 6 потери - см. картинки ниже - на первой - входной сигнал (7.2 клетки), на второй - продукты преобразования - 2 палки по 2.3 клетки....