Vladimir...
Esta marca que aparece em forma de "rosca" quando você volta com a ferramenta é de certa forma normal...
O que acontece é que no momento do corte há um esforço bastante grande que faz com que a ferramemnta e a peça cedam um pouco afastando-se uma da outra, e como o operador sempre coloca uma determinada velocidade de avanço durante o corte quando ele gira o manípulo do carro (ou o avanço é automático), este afastamento é de certa forma constante...
Quando você pára a ferramenta no final do corte se preparando para retroceder, o esforço de corte diminui e a ferramenta "entra" mais na peça, e quando começa a retroceder, ela volta cortando o material um pouco...
Normalmente o que se faz?
Se dá um passe de desbaste deixando a medida da peça um pouco maior - retorna com a ferramenta e, se repete o corte só que com avanço mais lento - o acabamento fica melhor e a peça aida é desbastada mais um pouco...
Com a prática, de consegue deixar a peça na medida final - basta um pouco de observação e exercício...