Crebbe nella Massese, con cui divenne titolare in Interregionale a 18 anni. Dopo un secondo campionato in Interregionale conquistò la promozione in Serie C2 quando, all'inizio del suo quarto campionato a Massa, nell'ottobre del 1984 venne acquistato dal Parma. Con i ducali esordì in Serie B nella stagione della retrocessione in Serie C1, quindi, diventato titolare, giocò tutte le partite per due anni di seguito sotto la guida di Arrigo Sacchi di cui divenne allora un pupillo.

L'allenatore di Fusignano lo portò con sé al Milan, dove Mussi esordì in Serie A il 13 settembre 1987, giocando in totale 30 partite in due stagioni, vincendo lo scudetto del 1988 e la Coppa dei Campioni l'anno successivo. Passò quindi al Torino nel 1989, conquistando la promozione in A al primo anno e rimanendo in Piemonte per cinque stagioni. Nel corso della sua esperienza in maglia granata vinse la Coppa Italia 1993, sfiorò una Coppa UEFA ed esordì in Nazionale.

Tornato al Parma dopo i Mondiali, vi rimase fino al 1999, vincendo la Coppa UEFA del 1995 e del 1999 e la Coppa Italia del 1999. In totale ha giocato 250 gare in massima serie.

Convocato da Arrigo Sacchi, esordì con la maglia della nazionale il 13 ottobre 1993, all'età di 30 anni, nella partita Italia-Scozia (3-1) valida per le qualificazioni mondiali.

Sebbene Sacchi gli abbia spesso preferito nel suo ruolo il milanista Mauro Tassotti e il parmense Antonio Benarrivo, Mussi fu inserito nella lista dei 22 convocati per il campionato del mondo 1994. Scese in campo nella gara degli ottavi di finale contro la Nigeria, che vide gli Azzurri sotto di una rete per tutta la partita e sul finale offrì l'assist a Roberto Baggio per la rete dell'1-1 che portò l'Italia ai supplementari.^[1] Nella finale del 17 luglio 1994 contro il Brasile, persa ai tiri di rigore, fu schierato titolare (unico giocatore della storia del Torino a giocare una finale mondiale) come terzino destro, ma si infortunò dopo 35' e venne sostituito da Luigi Apolloni.

Rimasto ai margini del gruppo durante le successive qualificazioni europee, fu infine convocato per il campionato d'Europa 1996, dove disputò le 3 partite dell'Italia fino alla sua eliminazione al primo turno. Ha totalizzato 11 presenze in nazionale.