Olá, aparentemente o problema esta na calibração dos movimentos, uma pesquisada na grande rede é possível encontrar a solução.
Quanto as folgas, se a maquina é nova uma tolerância de +~- 0,015mm é o regular, algo que eu não acredito que consiga com eixos retificados como guia, mas depende muito da estrutura, se bem que da para corrigir via software, muita folga também tem muitas trepidações e trepidações resulta em péssimo acabamento.