Существует разные подходы к импровизации.
Для рок музыки более характерен такой подход: у гитариста есть свой словарь, набор готовых характерных фраз, которые он в реальном времени извлекает и адаптирует к музыкальному контексту. То, насколько широк и интересен этот "словарь" и то, как адекватно ты им пользуешься, и определяет звучание твоей импровизации. В роке все же в основном используются достаточно простые гармонии (по сравнению с джазом), поэтому такой подход работает и позволяет прилично импровизировать с даже минимальным знанием гамм, не залезая во всякие теоретические дебри. Простота гармоний часто позволяет опираться на одну гамму, соответствующую тональности, для обыгрывания всех аккордов последовательности.
В джазе подход другой - они опираются больше на гаммы и гармонические построения. Я с теорией джазовой импровизации не знаком, пусть кто-то другой объяснит.
Замечу только, что определение импровизации как "сочинения музыки" на ходу слабо соответствует действительности, ничего не проясняет, а только запутывает