A veces la explicacion mas simple puede ser la correcta, no se si este es el caso: puede ser error de precision de la maquina.
Fijate en la pantalla de settings del mach3 que hay un boton que dice "set steps per unit" esto te permite calibrar los tornillos, vos le decis movete 10mm y usando un comparador o palpador medis la distancia efectiva, luego le decis cuanto se movio y te ajusta el error de los tornillos. Esto te solucionaria luego de un par de idas y vueltas la calibracion fina.

Pero quizas ese no sea tu problema, proba moviendo sobre un solo eje 100-0-100-0 y verifica que vuelva siempre a la misma posicion, si no lo hace lo que sugeri en el parrafo anterior, si no se soluciona, tendras que ponerte a calibrar el backslash (juego de los tornillos)

Otra cosa que te puede estar molestando es demasiada aceleracion/velocidad y que la maquina/motores no puedan manejar las fuerzas G y se pasen en la frenada.

Como ves, hay muchas cosas que pueden estar mal, lo mas facil es ir de lo basico a lo complejo. Como minimo para comenzar necesitas una herramienta de precision para medir el posible error, un palpador/comparador te pueden ayudar. Luego hace las pruebas a la menor velocidad posible, por ejemplo 50mm/minuto.

Suerte


Pablo