Repite el procedimiento en el eje y pero esta vez:

#1.- Parte del valor de pasos/mm que ya tienes configurado en Mach3, multiplicalo por 100,
#2.- Manda a avanzar 100.00 mm (después de haber avanzado en esa dirección por lo menos 1 cm, para evitar involucrar el backlash)
#3.- Divide el valor calculado en #1 por el valor medido en #2
#4.- Introduce el resultado en la configuracion del eje Y steps/mm en Mach3

Para lo de la rebarba:
#1.- Asegurate que la velocidad de corte que usas es la correcta para el material y velocidad de avance con esa herramienta y que la misma esta afilada.
#2.- Prueba a hacer el corte circular con el movimiento circular en sentido contrario.

kreutz