HeadleSS CroSS, ну, конкретных решений вряд ли.. у каждого свой конфиг, но и часто даже точно такие же сетапы начинают совершенно по-разному глючить..
по крайней мере возьми вот эту штуку http://www.thesycon.de/eng/latency_check.shtml и проверь нет ли там каких-то непредсказуемых пиков во время работы, там в принципе на сайте в статье описано все подробно что надо делать, но в основном это выключение лишних устройств и перетыкивание существующих в разные места, в надежде получить уникальные IRQ для звуковухи, ну и другие пляски с бубном.
однако далеко не факт что поможет.
... и добавил:
так же надо отключить всякие там экономные технологии в биосе и прочее ненужное бяка
Попробую, может что-то покажет эта прога. На другом форуме человек писал, что ему помогло отключение всех аудиоустройств в диспетчере устройств компьютера. Оставил только те, через которые играет. Преимущественно отключал всякие Nvidia audio и подобные выходы от видео карты. Но мне не помогло.
по описанию - однозначно где-то происходит накопление ошибки.
где именно так и не скажешь.
Может в драйвере, может в алгоритмах GR каких нибудь.
Надо тестить и тестить, что бы закономерности понять. 
Да, очень похоже на накопление ошибок или как будто что-то ( драйвер или реалтек) не вывозит оброботку и начинает со временем захлебываться.
Вообще, заметил что сама обработка алгоритма начинается именно перед выходом сигнала. Ставя Асус на выход - все работает отлично. Видимо Асус справляется с такой нагрузкой (звуковая карта все равно же участвует в этом). А вот ставя реалтек - начинаются щелчки постепенно. Тоесть алгоритм обработки выбирается не входом сигнала (вход не участвует в обработке сигнала), а выходом. Наверно как то так.
И еще такой вопрос. Есть di-box di400p Behringer. Играю через него. У него есть XLR выход , он балансный, вот думаю если купить кабель XLR-Jack stereo, повлияет ли это в лучшую сторону на записи. Сейчас играю через обычный выход ди-бокса Jack-Jack и он не балансный, но гитарный, а XLR - микрофонный, но балансный. Хочу попробовать, но есть ли смысл?

По картинке из инструкции видимо из xlr должен идти кабель в микшер (в моем случае в комп).