Любая аудиозапись состоит из частот, одни громче, другие тише, так вот при повышении громкости те что громче начнут зашкаливать, при помощи эквалайзера делай их тише, и выкручивай мастер на голосе. Хотя впринципе хорошо прописанный вокал и без этой фигни можно довести компрессором до максимальной громкости. Третий вариант нормолайз, лимитер, оно просто упрётся на ту громкость которая позволяет не шкалить без изменения частот.
Вообще я бы советовал какой-нибудь мультичастотный компрессор с мастер фильтрами на выходе, тобиж 3 предидущих шага в одном)