Я виртуалдаб в последний раз лет 7 тому видел живьем, погугли мануал на предмет выходного формата, там по умолчанию какой-нибудь модный фуллХД стоит, нужно сменить на что-то попроще типа 1280х720 также необходимо изменить аудио настройки: 5 каналов тебе вряд ли с видеокассеты нужны сделать стерео с битрейтом ну скажем 192... Как-то так, виртуалдаб если ничего не изменилось, туповат в настройках советую курить мануал в любом случае