Eduardo,
Normalmente o ideal é que se deixe um PC exclusivo para o controle de máquina, e os demais programas de conversão, desenho e quaisquer outros que fiquem instalados em outro PC.
O computador com o Mach3 deve estar com um Windows bem instalado e de preferencia sem nenhum tipo de proteção de tela e muito menos anti-virus, firewall ou quaisquer outros programas...
Provavelmente deve estar tendo alguma dificuldade na geração dos arquivos, ou talvez porque o Mach3 não está licenciado, este em modo demo está limitado a 500 linhas de código executado.