Leandro, o Alebe já deu a receita do bolo e só vou acrescentar uma cereja:
Vc pode consultar tabelas de roscas, há montes por aí. O passo das roscas em polegadas são expressas em número de fios por polegada. A rosca de 3/8", se a memória não me trai, é de 16 fios por polegada.
O TurboCNC quer saber a resolução do eixo, ou seja, qual é o avanço do eixo por passo. Se vc se sente mais confortável com o sistema métrico, não há probs, configure o sistema pra trabalhar em milímetros. Neste caso a coisa fica assim:
1" = 25,4 mm
25,4 / 16 = 1,5875 mm por revolução
Supondo que use meio passo (recomendável) e motor de 200 passos por revolução:
1,5875 / 400 =0,00396875 mm por passo [ esta é então a resolução do eixo ]
Isto é o ideal, mas roscas nunca são perfeitas e vc poderá fazer o ajuste fino posteriormente, mas isto já chega bem perto.