Esa controladora requiere un ajuste estricto tal y como pone en las instrucciones.
¿Seguro que tienes bien establecido el V-REF de cada eje, y que las medidas en TP1 y TP2 son correctas?
Si tienes establecido micropasos altos y le pides muchas revoluciones tal vez sobrepases la frecuencia del kernel.
¿Cuánta velocidad consideras factible?