Переменный размер, твой случай, имхо — "Переменный непериодический размер".
Если два инструмента каждый в своём размере — просто ставить свой размер на каждом нотном стане каждого инструмента.
Однако, если один играет 4/4 * 5 + 6/8, а второй — просто 4/4, это полная жесть, т.к. "сходиться" они будут слишком редко...
Может, у тебя там вовсе не 6/8, а просто две триоли из четвертей, которые в сумме дают всё тот же размер 4/4?