A engrenagem que gira a correia possui 20mm de circunferência; São 50 passos em 20mm.
Isso da 0,4mm por passo.

Me metendo no assunto um pouco, me pareceu que aqui pode estar havendo alguma confusão...

Não estaria se referindo ao diametro neste caso?
Uma polia de 20mm de diametro teria um perímetro de 62,83mm...

Se ela de fato tiver 20mm de "perímetro", seu diametro seria de 6,36mm???

A resolução por passo está certa, mas se recere à um deslocamento linear - se estão falando de um pêndiulo, não será que temos que pensar em deslocamentos angulares?

Ou este movimento é só do carro para direita e esquerda, para tentar manter o pendulo parado?

Se for, creio que não é importante, pois é a eletronica quem decide o quanto e o quão rápido o carro deva se mover para manter o pendulo em equilibrio - estou certo?

Me refiro à distância que o carro vai percorrer por passo.

OK, tá mais claro.

Se o carro vai andar 20mm por volta do motor, ele vai andar 0,4mm por passo do motor.

Só pra conferir: qual é a disposição do motor, polias, carro ? Como vc está calculando o avanço do carro ? Tem algum desenho do sistema ?

Apostar nisso sem ter certeza de que tudo vai funcionar de primeira é um tiro no escuro.

Pois é, por isso mesmo acho que seria mais aconselhável utilizar uma solução provada, com referências abundantes ... tiro no escuro é partir para algo que não foi provado ... perdoe a franqueza se for excessiva, mas se vc tá enrolado com o acionamento do motor, que é possivelmente o aspecto mais simples de todo o projeto e já dá pano pra manga, imagino as dificuldades que vai enfrentar com o encoder e a malha PID ... pra não falar de questões mecânicas, com as quais vc já declarou não estar familiarizado e não dispor de recursos pra lidar com elas ...

Entenda bem, não quero desanimá-lo, ao contrário. Durante minha vida profissional, que já se faz longa, sempre tive que lidar com aspectos conflitantes e aprendi - a duras penas - que é melhor estar "apoiado em ombros de gigantes" ... ou seja, aproveitar tanto quanto possível a experiência prévia de outros e a partir daí aperfeiçoar, adaptar, modificar ... este fórum é um exemplo dos mais eloquentes ...

E quanto à minha disponibilidade de tempo... Não é muita!

Pois é ... pois é ... o tempo disponível costuma ser a pior das restrições ... lidar bem com ele, avaliar realisticamente os recursos disponíveis é a grande virtude de quem tem que administrar projetos ...

De qualquer modo estamos todos à postos para ajudá-lo no que for possível e torcendo pelo seu sucesso ... 

Vou dar uma opnião no meio termo ...rsrs ... porque vc não usa um motor de passo unipolar que é mais facil de programar , acho eu ... desculpe se falei besteira rs...

Bom, vamos por partes:

Ou este movimento é só do carro para direita e esquerda, para tentar manter o pendulo parado?

Sim, os 0,4mm aos quais me referi são de deslocamento do carro.

Se for, creio que não é importante, pois é a eletronica quem decide o quanto e o quão rápido o carro deva se mover para manter o pendulo em equilibrio - estou certo?

É isso que eu penso também.

Acho que usar um potenciômetro é simples e ainda é possível com um mês de prazo, sendo uma solução mais eficaz.

Como sensor angular estou utilizando um potenciômetro sim. Esqueci de mencionar isso.
E como sensor de posição estou utilizando um foto-diodo/foto-transistor com uma engrenagem de mouse furada passando por entre eles.

O sensor incremental está acoplado no eixo do motor (que por sua vez está FIXO) e, na medida que o eixo do motor se movimenta, a engrenagem gira, gerando os pulsos no foto-transistor.

Parece que o motor possui uma redução e está acoplado ao carro (se move com o carro) ou pode mover o carro através de uma correia (motor fixo). E a cada passo o carro se move 0,4 mm? É isso? O motor está fixo?

Só pra conferir: qual é a disposição do motor, polias, carro ? Como vc está calculando o avanço do carro ? Tem algum desenho do sistema ?

O motor está FIXO no trilho e move o carro por meio de uma correia. A cada passo, o carro se move 0,4mm.

Não tenho nenhum desenho.

De qualquer modo estamos todos à postos para ajudá-lo no que for possível e torcendo pelo seu sucesso ... 

Tenho fé na ajuda de vocês e sou muito grato.

Um encoder magnético ajuda?

http://www.austriamicrosystems.com/eng/Products/Magnetic-Encoders/Rotary-Encoders/AS5043

Seria de grande utilidade no início (quando estava tentando decidir que tipo de sensor angular iria utilizar), mas agora é indiferente, pois estou utilizando um potenciometro e não problema algum com ele.

O ponto principal é o controle do motor de passo, o resto está ok.

Mas muito obrigado pela referência, inclusive, vou pedir um sample para trabalhos futuros.

Pensando em algo tipo basicão, acho que o sensor angular é desnecessário, pois voce já possui um potenciômetro para medir a posição do pêndulo. Só precisa deslocar o carro (onde o pêndulo estará preso??) de um lado para o outro, através do motor, de maneira a manter o pêndulo (ou o sinal do potencômetro) equilibrado. Será um controle do tipo SISO (sinlge input single output), mas já atende... só não pode deixar o carro chegar nas extremidades, senão o carro vai ficar batendo nos limites (batentes) de movimentação do carro.

Eu estava considerando o potenciômetro como sensor angular. 
O pêndulo está preso no potenciômetro e os dois estão acoplados no carro.
Conforme o pêndulo se movimenta, o potenciometro altera sua resistência.

O controle que estou fazendo é do tipo PID.

Com certeza, um pêndulo apenas gira, não é? E o potenciômetro medirá ângulos...

Sugiro um potenciômetro multivoltas de fio, existem alguns com baixo atrito, além disso, possuem maior repetibilidade na resposta de resistência x ângulo, maior tempo de vida (mais ciclos) e permite que o pêndulo possa chegar embaixo.

O controle será PID, Ok.

O potenciômetro que estou utilizando é um multivoltas (10k e 10 voltas).