me da la impresion que tenes mal seteados los pasos Step per: , dibuja una linea recta de al menos 200mm y verifica en su desplazamiento cuanto mide realmente, esto hacelo repetidas veces y en caso que la medida no sea la correcta corregi los pasos. Asegurate tambien que no tengas un cable cruzado de los motores, eso es facil de ver al moverlo fijate que siempre gire en el mismo sentido y que no este dando algun paso atras.