akouz,
Третий порядок - 18db, откуда 60? Вам нужна фильтрация 10 порядка.
Вопрос не видел.
Одна из гипотез была, я её добавлю, учитывая, что гитарный сигнал не статичен и постоянно меняется по фазе, вполне допускаю что часть спектра в противофазе со 100кГц, и интермодуляцией, от чего часть гармоник выкидывается, т.е. вычитается.
Но как правильно заметили - уменьши гейн и будет счастье. Результат - тот же.
Нужно учитывать, что и ОУ не фазолинейны на всем диапазоне, и это оправдано, иначе нельзя было бы вводить ООС и не получить генерацию.
Мне лень думать, так как результат меня не устраивает. Если бы устраивал, мозги сами бы напряглись - как это сделано.
... и добавил:
Тем более выбранные ОУ не сильно-то скоростные для 100кГц. А вы их не в единичном усилении используете.