Villas,
Se eu entendí bem o vídeo, você colocou um relógio numa base, e o apalpador você colocou na haste da fresa e a fez girar em uma velocidade relativamente baixa.
Se for isso, você mediu o "batimento" do eixo da máquina, e então vamos a algumas considerações: (O Roque, que fabrica máquinas e já fabricou suportes para ferramentas é a pessoa mais indicada a discorrer sobre este assunto...)
1) esta medição à princípio se faz com um relógio milesimal, mas este se centesimal já ajuda em muito, pois nada impede que você trabalhe com um grau de precisão um pouco menor...
2) O "eixo" a ser usado para este fim deveria ser um eixo lapidado de precisão, aferido na sua "cilindricidade"...
3) O "batimento" se verifica girando o eixo manualmente, mas se a RPM for realmente baixa, tudo bem...
À princípio, se me lembro bem, sua máquina está usando um "mandril comum" montado no eixo-árvore para fixar a ferramenta, e ele pode ser o culpado desse desvio...
Acho que para que sua máquina faça algum trabalho com alguma regularidade e acuidade, acho que você deve ter alguns cuidados antes de mais nada...
Alinhamento da mesa: (acredito que não esteja ruim, mas verificar é bom):
Para verificar o alinhamento "Longitudinal" da mesa, você pode fixar o relógio no cabeçote, e colocar o apalpador tocando uma "lateral interna" de um dos rasgos em "T"
Uma vez que se verificou o alinhamento longitudinal, você pode tentar verificar o alinhamento transversal através de um esquadro encostado com sua base na coluna vertical, e a haste dele projetada em direção ao movimento transversal.
O esquadro estará "deitado" e em paralelo à superfície da mesa, de forma que quando a mesa se mover para frente e para trás, o esquadro não a toca e só serve mesmo para que o apalpador do relogio meça algum desalinhamento.
Estes processos server para constatar a qualidade do serviço de construção da máquina, e provavelmente não tem como fazer alguma correção simples.
Para verificar o movimento vertica (se está no esquadro), você pode tanto fixar um esquadro na superfície da mesa (colocando-o na vertical) e com o relogio fixado no cabeçote, toque o apalpador na face do esquadro, e mova o cabeçote para cima e para baixo.
Esta medição deverá ser feita com a base do esquadro em duas posições: paralelo à mesa e a 90 graus dos rasgos da mesa.
A outra maneira é ao contrário - fixa-se uma haste retificada e cilindrica no eixo-árvore da máquina, e fixa-se o relogio na mesa, e com o apalpador tocando a haste se move o cabeçote para cima e para baixo...
Esta medição igualmente se faz nos dois quadrantes - com o relogio no sentido longitudinal e transversal...
Uma vez feito isso e verificado os alinhamentos da máquina, você vai ter certeza do que ela seria capaz.
Se você já tiver uma morsa (apesar de saber que você quer fazer uma de precisão como a do site Japones), você DEVE garantir o alinhamento dela em relação à máquina.
Fixe um "calço retificado" nos mordentes da morsa de forma a deixar uma aba para fora, e fixe o relogio no cabeçote e com o apalpador tocando o calço, alinhe o melhor possivel o "paralelismo" da morsa com a mesa.
Isso te dará a certeza que os movimentos de usinagem estarão em esquadro com a morsa - consequentemente a usinagem da peça estará no esquadro.
Sempre que for fixar uma peça na morsa, você deve usar de calços e apoios que garantam uma boa fixação da peça nos mordentes...
Não existem formuulas, mas sim o bom senso...
Sempre que for trabalhar em alguma superfície da peça, use uma outra superfície como referencia, então você terá a certeza que haverá paramelismo e esquadro...
Se por exemplo for usinar um bloco nas suas 6 faces, eleja uma delas como referencia e a usine com a face da fresa.
Vire a peça 180 graus, fixe na morsa colocando em baixo da peça "calços retificados", dê umas "pancadinhas" com um "macete" de latão, cobre ou chumbo para garantir que a peça está "encostada" nos calços, e então usine a face de cima com a face da fresa.
Vire a peça e agora prenda-a de lado, com as duas faces usinadas uma em cada mordente, e usine uma das laterais com a lateral da fresa.
Aproveite e usine uma das faces (lado de cima) da peça
Vire a peça de novo e usine a outra lateral da peça com a lateral da fresa e usine a face (lado de cima) da peça.
Está feito e se você fizer direito, estará no esquadro...
Espero que isso ajude!