Pelo desenho das ligações que vc postou acima, os fios centrais (comuns) das bobinas (preto e branco) devem ficar nos bornes centrais. E juntos com eles indo para as extremidades dos bornes, devem ficar os de cores que fazem parte da bobina (conforme o desenho).
Eu não uso o Mach3, então não sei como é a página da configuração, mas vc tem de inserir 200 passos para o motor, e se a placa estiver configurada pra meio passo deve haver um campo pra vc inserir o "2", o que transformará em 400 passos. Vc deverá levar em conta tbém o passo do fuso.
Experimente pôr a velocidade em 100 e a aceleração em 200. Quando os motores estiverem funcionando, aí vc vai ajustando conforme for melhor.
Abraço.
Jorge