mongrel,
вероятно наушники при таких настройках будут висеть на 1\2 и 3\4 выходах соответственно
т.е. подключив колонки к линейным выходам 1\2, а наушники к "выходу на наушники 2" ты получишь физическое и логические разделение сигналов
на верхнем сриншоте микшера - первая стереопара выходов, на нее добавлена громкость только от первой логической стерео-пары (которая идет из кубейса и прочих звуков винды)
если ты сделаешь тоже самое для Analog Output 3\4 - звук появится и в наушниках (подключенных ко 2му стерео-выходу), а на Analog Output 1\2 всё замьютируй - тогда звук в мониторах пропадет
ну и т.п.