Agora basta uma regrinha de três.
Anote o valor que está no step per e faça uma movimentação, digamos de 100mm, do eixo pelo jog.
Anote qual a distância que foi percorrida e calcule:
Step per * 100 / distância percorrida = novo valor do Step per
Exemplo:
Step per = 150 mm
Distância pretendida = 100 mm
Distância percorrida = 98,25 mm
150 * 100 = 15000
15000 / 98,25 = 152,671755
Coloque este valor no Step
Faça nova movimentação pelo jog e verifique.
Faça tudo novamente, com os novos valores é claro, até ficar perfeito.
Quanto maior a distância de "movimentação pretendida", melhor serão os resultados para um ajuste fino.
Então, se seu eixo puder andar 500 ou 1000 mm, faça isso.