Сделал без делителя -40дб, который изначально был в схеме, сделал как у Игоря и поставил 50ом резистор к тр и вот что получилось
ксв: 1.8=1.12, 3.6=1.07, 7=1.05, 21=1.02, 28=1.01
Совпало теперь с расчетами! и емкость С1 =10пф, кольцо 8витков
Тест проводился без платы вообще, вход и резистор нагрузочный в воздухе. на ад8307 получилось 18мВ на 1 дБ в обоих плечах. Еще я поставил по входу емкости НП0 0.01 (но походу не обязательно было). Сейчас попробую убрать переменник и запаять всё как должно быть.