As possibilidades são muitas.desde o desenho. Por exemplo no artcam quando se faz perfilagem, o normal é que de uma diferença de 0,1mm por causa da "espessura" do vetor do desenho.
Normalmente os maiores problemas do tipo são
> as configurações da ferramenta não conferem com a ferramenta

ou seja.. Você configura uma fresa de 1,5mm e a fresa tem 1,45 ou 1,55 dependendo da qualidade da ferramenta.
> a fresa não fica bem centrada na pinça
> folga no eixo do spindle
> Fresa que não esteja cortando bem
> velocidade de avanço muito alta
Faça testes...
Faça um furo maior e veja se a diferença continua sendo a mesma. por exemplo se o furo de 3,5 sai com 3 isso dá uma diferença de 0,5mm. Se mandar fazer um furo de 10mm e ele sair com 9,5mm a diferença continua sendo de 0,5mm. Se a diferença for maior ou menor, o problema é configuração de passos / milimetros no software de controle. Se a diferença continua sendo sempre a mesma, comece pela fresa, pinça, folga do eixo do spindle.....