Я прогонял каждый вариант 2мя тонами и там не было лишних палок.
Да не при чём тут лишние палки - при компрессии они ОБЯЗАНЫ появиться - это нелинейный процесс. Я про то, что сигнал у Вас рассыпанный. Совсем велик пикфактор.
Попробуйте через мой приёмник прямого преобразования с полосой 100 кГц записать сигнал с выхода своего передатчика, но несущая должна быть не на нулевой частоте, а на 10, или 20 кГц. Не исключаю, что СДР вносит при приёме фазовые сдвиги, из-за которых у Вас правильно сформированный сигнал рассыпается...
У меня Ваш последний файл, где без шумов голос.