Уменьшенная пятая ступень - это пятая ступень сдвинутая на пол-тона ниже. В любом учебнике по ЭТМ, вы можете почитать, какие бывают ступени.
Возьмем гамму до-мажор:
c-d-e-f-g-a-b
Пятая ступень - нота соль. Соответственно, уменьшенная квинта (уменьшенная пятая ступень/тритон) - это нота соль-бемоль (gb). В натуральных ладах, пониженная пятая ступень используется в локрийском ладе (ладу?).