Resolução é algo relacionado ao modo que seus motores estão sendo acionados juntamente com o método usado para movimentar os eixos de sua máquina, então se por exemplo está usando meio passo para aciuonar um motor, e este motor toca um fuso de passo 10mm diretamente, a resolução teórica é o quociente da divisão entre o passo do fuso pela quantidade de passos para dar uma volta (0,025 mm para este exemplo)
Para fazer interpolação circular, se usam os comandos G02 para círculos no sentido horário e G03 para círculos no sentido anti-horário.
No fórum há diversas ocorrencias que discutem interpolação e resolução - boa leitura.
Se está usando algum programa de geração de arquivos como Artcam por exemplo, deverá gerar seus arquivos com um pós processador que crie as curvas usando interpolação.