А Ваша нынешняя библиотека откуда?
QRP-Lab. Там много изменил, но алгоритм остался от QRP. То есть, делитель в цепи PLL - целочисленный, а N - дробный.
Для vezo74. Если у Вас есть желание и есть микросхема Si5340A, можете поэкпериментировать с ней. Исходник, прошивка и схема здесь:
http://www.cqham.ru/forum/showthread.php?36110-Si5340A&p=1660805#post1660805Там и фото платы.. У меня ее испытать нечем. Кроме звуковой карты другой возможности нет. Програма на Cи, написана с среде AVR Studio 4.19. Впрочем, Вы ее легко можете адаптировать к среде Ардуино.
К сожалению там N - дробный. Все, о чем здесь выяснили, там не учтено. Тут ситуация сложнее, чем с Si5351A, так как генератор работает на частоте порядка 13 Ггц и меняется он в небольших пределах (честно говоря я пока и нашел, в каких?). Подозреваю, что например на диапазоне 28 мгц, перестройки VCO не хватит. Конечно это не такая уж и проблема..