En la temporada 2007-08, Gracia entrenó al Pontevedra Club de Fútbol, dejando el club en junio de 2008 al no poder lograr el ascenso a Segunda División A.^[1]

Su debut a nivel profesional en los banquillos se produjo al frente del Cádiz Club de Fútbol,^[2] al que ascendió a Segunda A en la temporada 2008-09.^[3] Acabó siendo cesado en enero de 2010, debido a que el conjunto gaditano ocupaba puestos de descenso.^[4]

En la temporada 2010-11, fue contratado por el Villarreal "B".^[5] Tampoco llegó a terminar la campaña, siendo despedido a sólo 5 jornadas del final de la Liga, con el equipo a 5 puntos de los puestos de descenso y tras una mala racha de sólo 6 puntos de los últimos 39.^[6]

En junio de 2011, Gracia fue contratado por el Olympiacos Volou, que había terminado quinto en la Superliga de Grecia.^[7] Debutó con los primeros partidos europeos de su carrera como técnico, eliminando al FK Rad y al FC Differdange 03 en la UEFA Europa League, pero luego el equipo fue expulsado de la máxima categoría y de la competencia europea debido a su supuesta participación en el escándalo de amaño de partidos de Koriopolis.^[8][9]

Habiendo rescindido su contrato, Gracia permaneció en la misma liga por el resto de la temporada 2011-12 en AO Kerkyra.^[10] Llevó al club con sede en Corfú a los octavos de final de la Copa de Grecia, donde perdieron por un solo gol ante el Asteras Tripolis.^[11]

En junio de 2012, fichó por la Unión Deportiva Almería.^[12] El equipo almeriense acabó la Liga en tercera posición, accediendo al "play-off", y tras eliminar a Las Palmas y al Girona, logró ascender a Primera División.^[13] Pero tras el éxito, el club y el técnico no llegaron a un acuerdo sobre su renovación.^[14]

El 4 de septiembre de 2013, sin poder hacer la pretemporada, se incorporó al Club Atlético Osasuna como nuevo técnico.^[15] Aunque al final de la primera vuelta parecía que el equipo navarro se alejaba del descenso, volvió a los últimos puestos en las últimas jornadas de la Liga y acabó bajando a Segunda División pese a ganar su último partido.^[16] Consumado el descenso, rechazó la opción de continuar en el banquillo de El Sadar.^[17]

El 30 de mayo de 2014, el Málaga Club de Fútbol anunció su llegada como nuevo entrenador blanquiazul.^[18] Sorprendentemente, pese a las restricciones de gastos en fichajes, el equipo andaluz rindió a un nivel destacable, ya que estuvo gran parte de la Liga en una 7.ª posición que le hubiera dado acceso a la Europa League, pero finalmente acabó 9.º.^[19]

La temporada 2015-16 comenzó con mal pie, pues el conjunto malacitano sólo consiguió 2 puntos en los 5 primeros partidos, sin poder marcar un solo gol.^[20] Sin embargo, acabó reaccionando y concluyó la primera vuelta del campeonato en una sólida 10.ª posición.^[21] El 15 de marzo de 2016, Gracia renovó su contrato con el club hasta 2019.^[22] Tras una buena segunda vuelta, el equipo andaluz finalizó 8.º en la clasificación, a un paso de la clasificación europea.

El 24 de mayo de 2016, el Málaga anunció que Javi Gracia no continuaría en el club, pues el entrenador había decidido aceptar una oferta del Rubin Kazan.^[23] El club ruso confirmó su llegada el 27 de mayo.^[24] Tras obtener el 9.º puesto en la Liga rusa, abandonó la entidad el 8 de junio de 2017.^[25]

El 21 de enero de 2018, se convirtió en el nuevo técnico del Watford Football Club.^[26] Llegó al equipo inglés a mediados de temporada, logrando la permanencia al obtener la 14.ª posición en la clasificación final de la Premier League 2017-18. El 28 de noviembre de 2018, tras firmar un comienzo de temporada ilusionante en el que ganó sus 4 primeros partidos en la Premier League, renovó su contrato con el club hasta 2023.^[27] Pero a pesar de mantener la categoría y llevar al equipo a la final de la FA Cup la temporada anterior, fue cesado el 7 de septiembre de 2019, tras un mal inicio de curso.^[28]

El 27 de julio de 2020, fue presentado como nuevo entrenador del Valencia CF hasta 2022.^[29] Sin embargo, fue destituido el 3 de mayo de 2021, a falta de 4 jornadas para el final de la Liga, dejando al equipo en 14.ª posición, 6 puntos por encima de los puestos de descenso.^[30]

El 7 de diciembre de 2021, se convirtió en nuevo técnico del Al-Sadd y firmó hasta 2023 con opción a un año más.^[31] El 16 de junio de 2022, abandonó el cargo de mutuo acuerdo con el club y fue reemplazado por Juan Manuel Lillo.^[32]

El 21 de febrero de 2023, se convirtió en nuevo técnico del Leeds United con el objetivo de salvarlo del descenso, siendo su segunda experiencia en la Premier League de Inglaterra.^[33] El club anunció que el contrato sería "flexible", pero no dio más detalles sobre esa declaración, diciendo además que el nombramiento de Gracia estaría sujeto a la emisión de un permiso de trabajo.^[34] El 2 de mayo de 2023, fue destituido como entrenador del conjunto inglés, 17º clasificado en aquel momento tras haber sumado un solo punto en los 5 últimos partidos.^[35]

El 8 de octubre de 2025, comenzó su segundo ciclo al frente del Watford.^[36] El 1 de febrero de 2026, presentó su renuncia al cargo después de una serie de malos resultados.^[37]