Hola Scramjet , tal cual dice jorcaryvan el calentamiento de los L298 es normal al igual que los motores, esos i tampoco tienen que esatr a 100 ºC jeje. Supongo que le bras colocado un buen disipador al L298.

Dijiste que estas usando el par L297-L298, traía bueno que indique que circuitos estas utilizando, en una de esas esta ahí el problema, o indícame si estas usando el que yo publique.

He medido Vref en la pata 15 del L297 y me da .92 volts con 5.1 volts de corriente de la alimentaciñon de la fuente de poder, lo mido con los 12 volts y me da una lectura de 1.1 volts, si mis resistencias de las patas 1 y 15 del L298 son de 1.1 ohms.
La Vref es independiente de la tensión que aplicas a los motores. A la controladora se le deben conectar dos fuentes una de 5V para la lógica y otra que va a ser la tensión que se le aplica a los motores, que puede ser hasta 40V. Si estas usando las placas que publique yo la tensión de 5V viene de la iterfaz por medio del conector ICD y en la bornera se conecta la fuente de los motores.
Al L297 no deerias mandarle mas de 5V.

Bueno ahora te explico como funciona el control de corriente del L297. En realidad el L297 lo que tiene es un comparador y lo que hace es variar el choping hasta que en el comparador encuentra una igualdad.
Las resistencias que van en los pines 1 y 15 del L298 son residencias de sensado, lo que hacen es producir una caída de tensión al circular la corriente que alimenta los motores, por eso es que también después de la resistencia va una pista al L297 a los pines Sens 1 y 2. De esta manera se puede "censar la corriente" En realidad no se esta censando nada, el L297 lo que hace es variar el choping hasta que de manera independiente (cada puente H) el valor de tensión de los Sens sea igual a la Vref. Por ende supongamos que como resistencias de censado en el L298 colocaste 2 residencias de 1ohm en paralelo, esto no es mas que una resistencia de 0.5 ohm (acordase que tiene que soportar la corriente que va a circular por el motor) por ende si tu motor es de 2A por ley de ohm en dicha resitencia tenemos una caida de tencion de 2A*0.5ohm=1V, tendríamos que colocar en Vref 1V para que el L297 regule la corriente a 2A.
De todas formas es mucho 2A para el L298 por eso también calienta, si bien es la corriente máxima teórica es de 2A, va a ser medio jodido sacarle los 2A en la practica incluso como dice jorcaryvan con un disipador del tamaño de un libro.

Regúlala a 1.8A si bien no estarías sacando todo el redito de los motores pero con eso no deberías tener problema con el L298 si tenes un buen disipador.
Yo para esos motores te recomendaría pasar a un controladora con mas margen y poder regular la corriente a 2A. De pues de todo un circuito es como todas las cosas, si el L298 aguanta 2A máximo y pretendes sacarle 2ª (que lo soporta) es como comprarse un auto y andarlo siempre a fondo jejeje, cuando dura mas el auto, si lo andamos siempre a fondo o si lo cuidamos un poco. Perdón por la comparación jejejeje

Otra cosa es que revises el capacitar y al resistencia que forman la malla RC para la oscilación del L297, me paso que una vez le erré y en vez de poner la R de 22K puse unas de 2k2, no había forma de que regule la corriente, hasta que me di cuenta jejejeje.

Saludos