Me parece algum problema com algum(ns) parâmetro(s) de usinagem, rotação da fresa, sentido de rotação da fresa x sentido de usinagem, velocidade de avanço, ...
Aliás, antes de sair usinando coisas, aconselho fazer testes fixando uma caneta de ponta porosa ao suporte de sua tupia e verificar se a movimentação está normal, se círculos concêntricos conseguem ser desenhados, nos dois sentidos. Gere também outras geometrias (quadrados, triângulos, hexágonos, espirais, ...).
Ou seja, vá aos poucos, entendendo e conhecendo a máquina e como usar a mesa, e principalmente, resolvendo os problemas iniciais de construção.