Vá em "Configurações > Origem/Limites" e na janela que se abre, ajuste os limites que deseja para sua máquina.
Para efetivar a coisa, basta posicionar a máquina onde deseja que seja a Origem, e se aperta a tecla "Origem p/ Todos" na tela do Mach3 - verá que depois de apertada esta tecla, todos os displays dos eixos serão zerados e em volta de cada botão referente de cada eixo a cor passará de vermelho para verde - isso quer dizer que a Origem-Máquina foi reconhecida (veja imagem abaixo).
Note ainda que será necessário deixar a tecla "Limites Lógicos" acesa (com contorno verde)
Experimente mover a máquina com o JOG e note o comportamento quando ela chega em um dos limites - ela deverá frear e parar completamente.