Количество людей во втором раунде определяется по простой пропорции

Y - количество людей в отборочном
X - количство людей во втором рауунде
64 - количество людей в третьем раунде

Y - X
100 - n

X - 64
100 - n

n = 100*X/Y
n = 100*64/X

100*X/Y = 100*64/X

X = sqrt(64*Y)