Sin da ragazzino pratica ciclismo e ginnastica, ma il fisico possente lo fa indirizzare verso la boxe. Nel 1923 si tessera per la “Salus et Virtus” la cui palestra è situata nel Foro Boario a Porta Genova. Sotto la guida di “Pipei” Podestà e poi di Giuseppe Galli, impara presto i fondamentali grazie anche ad alcune notevoli doti naturali che ne fanno un maestro di boxe “scientifica”, come diranno i tecnici, molto mobile ed estroso, abile nello schivare i pugni avversari. Qualità che lo portano alle prime vittorie, su tutte il titolo piacentino dei “welter”. L’11 marzo 1929 batte bene ai punti Martinelli, nella palestra della “Salus et Virtus”. Si rivede un anno dopo, il 2 aprile 1930, quando al Politeama di Piacenza supera ai punti il campione regionale Canini, nell’incontro tra “Salus et Virtus” e “Libertas Rimini” che vince 3-1 il computo globale. L’11 maggio a Verona supera ai punti Brighenti. Inizia ad essere guardato con una certa attenzione dai tecnici. 14 giorni dopo, si conferma nella sua Piacenza, battendo ai punti il genovese Frediani. Si rivede il 31 agosto a Senigallia dove batte Medici per kot alla seconda ripresa. Il 25 ottobre al Politeama di Piacenza affronta Rovati: in vantaggio nel primo round, nella seconda ripresa è colpito basso e l’avversario viene squalificato. Nella stessa sede il 6 novembre batte il genovese Rivara per kot alla seconda ripresa. Esordisce quindi in Nazionale durante una tournée in Scandinavia ai primi di dicembre. Nel primo combattimento, a Copenaghen il giorno 3, mette al tappeto Michaelsen che però si rialza dopo 5 secondi: fermato ed ammonito due volte dall’arbitro per colpi alla nuca, Rossi perde l’incontro, ingiustamente sfavorito dai giudici. I nostri comunque battono i danesi 4-1. Due giorni dopo, stesso discorso: Rossi combatte bene contro Christiansen, ma i giudici gli negano nuovamente il successo. Finalmente, dominando in modo indiscutibile, ad Aarhus batte Andersen. Il 15 febbraio 1931 al Politeama di Piacenza vince per ko alla prima ripresa contro il fiorentino Giuntini. Undici giorni dopo, all’Arena del Sole di Bologna, conquista il campionato emiliano, ancora con un ko alla prima ripresa, stavolta ai danni di Succi. Comincia ad essere considerato con una certa attenzione dai tecnici azzurri. Il 5 marzo a Piacenza Rossi supera il milanese Bassi nell’incontro tra la “Salus et Virtus” e la “Mussolini” meneghina. Il 12 aprile è di nuovo in Nazionale, contro l’Ungheria a Budapest, sotto il tendone del circo Beketow: vince ai punti contro Keri, ma il match termina 8-8. Due giorni dopo, a Brno l’Italia affronta la Cecoslovacchia: Rossi batte Ostruznak e gli azzurri vincono nettamente 12-4. Rossi rimane in Nazionale anche per la tournée americana di maggio. Prima riunione al mitico Madison Square Garden contro una rappresentativa dello stato di New Work: Rossi batte Madden, ma l’incontro finisce in parità, 4-4 anche perchè i giudici hanno un occhio di riguardo per i padroni di casa. Malato, non gareggia negli incontri successivi. Si rivede sul ring il 5 settembre al Teatro Lirico di Milano dove perde ai punti col tedesco Schiller: il match vale per l’incontro Lombardia-Baviera che i teutonici si aggiudicano 9-7.

Settembre per lui è un mese molto intenso: il giorno 24 al Teatro Filodrammatici di Piacenza batte ai punti il milanese Saruggia. Stessa storia appena tre giorni dopo, ad Ancona, dove supera l’elvetico Gugger: l’incontro fa parte della sfida Italia-Svizzera che gli azzurri dominano 8-0. Il 22 ottobre, al Politeama di Piacenza, partecipa all’incontro Emilia-Ungheria: batte Keri ai punti, ma il confronto termina in parità, 4-4. Torna in Nazionale per una tournée in Germania. Il 18 novembre ad Amburgo batte ai punti Aschmoneit, con gli azzurri che sconfiggono la rappresentativa locale 14-2. Due giorni dopo, a Bochum, supera Wesoly ed i nostri dominano la Westfalia 13-3. Infine il 22 novembre ad Hannover altra vittoria ai punti con Bode e Germania schiantata 11-5. Con queste brillanti performances Rossi è candidato numero uno ai Giochi. Intanto prosegue la sua marcia: l’8 dicembre al Politeama della sua Piacenza sconfigge nettamente ai punti il marchigiano Donati. Si ripete il 14 gennaio 1932 contro il milanese Bassi che riesce a sconfiggere pure il 7 aprile nella finale della preolimpica piacentina. Torna in nazionale ai primi di maggio. A Berlino, nel Torneo 4 Nazioni, batte ai punti il danese Joergensen ed i nostri si aggiudicano la prestigiosa competizione. Non va altrettanto bene a Budapest, in Ungheria-Italia, dove Rossi è battuto ai punti da Csizsar ed i nostri perdono 10-6 il computo globale. Comunque viene selezionato per il ritiro azzurro preolimpico che inizia il 23 maggio, ben organizzato dal podestà Tonetti e supervisionato dal segretario FPI Mazzia che, con Volpi e Teodori, fa parte della Commissione Tecnica la quale alla fine, sentito il parere del CT Garzena, sceglierà gli azzurri per i Giochi. Rossi è di gran lunga il migliore della sua categoria e, dopo aver battuto Bassi nel decisivo match di selezione, si assicura la maglia azzurra. Giunge quindi il tempo del viaggio verso l’America. Dapprima, il 1° luglio, tutti gli azzurri sono trasferiti su un treno speciale che li porta a Forlì dove vengono ufficialmente e pomposamente ricevuti dal Duce che li “carica”, augurando loro le migliori fortune nell’agone olimpico. Quindi un altro treno li riporta a Napoli dove nel pomeriggio del 2 luglio sono imbarcati sul transatlantico “Conte Biancamano”. Qui si allenano come possono, sul ponte della nave, cercando di tenersi in forma e mantenere attiva la muscolatura, soprattutto con piccole corse ed esercizi a corpo libero. A poppa della nave viene pure allestito un ring dove i pugili si confrontano a più riprese, anche se amichevolmente e tra categorie diverse di peso. L’11 luglio arrivano a New York dove rimangono due giorni tra festeggiamenti vari, accolti calorosamente dalla folta ed entusiasta comunità italo-americana. Il 13 ripartono in treno ed attraversano tutto il continente: Washington, St. Louis, Salt Lake City le tappe che finalmente portano il 17 luglio a Los Angeles. Qui iniziano gli allenamenti di rifinitura dove Rossi pare in buone condizioni. Le gare olimpiche di pugilato si svolgono nel “Grand Olympic Auditorium” di Los Angeles. Rossi partecipa nei “massimi-leggeri” cui prendono parte solo 8 pugili ed il cui peso-limite è di 79,3 kg.

Dato il numero esiguo dei partecipanti, esiste la concreta possibilità di una medaglia e Rossi la sfrutta bene. Il 10 agosto nei quarti batte nettamente ai punti il greco Mastoridis, costringendolo due volte a mettere il ginocchio a terra. Ha anche fortuna: due giorni dopo, il suo avversario designato, l’irlandese Murphy, non si presenta in quanto infortunato e dunque Rossi entra in finale. Qui però il 13 agosto trova il sudafricano Carstens: Rossi indirizza bene il match, mette pure al tappeto l’avversario e pare in netto vantaggio. Il verdetto dei giudici però rovescia la situazione e dà la vittoria al sudafricano. Il pubblico insorge, tra fischi e proteste: la decisione pare scandalosa, ma purtroppo non è la prima nè l’ultima. C’è pure chi grida al complotto: l’arbitro è un argentino che si sarebbe “vendicato” di un presunto torto perpetrato ai danni di un connazionale da un giudice italiano in un incontro precedente. Fatto sta che il verdetto non cambia e l’oro rimane a Carstens. Rossi si rammaricherà per tutta la vita di quella che lui, ma non solo lui, ricorderà sempre come una sonora ingiustizia. Non lo consola il titolo di vincitore “morale” che gli spetta di diritto: è argento, mentre il bronzo va al danese Jorgensen. Nel viaggio di ritorno i nostri disputano alcuni matches contro rappresentative locali. Rossi vince a Kansas City, perde a Chicago con Mark, supera ai punti White a Pittsburgh, sconfigge Bittner a Richmond e Wingone a Providence. Al rientro in Italia, non è facile smaltire la sbornia olimpica, anche considerando le differenze tra lo stile di vita americano e quello italiano. Comunque Rossi passa professionista, esordendo il 10 novembre a Piacenza con una vittoria su Lomazzi. Si ripete il 28 novembre, ancora nella sua città, contro il quotato Daccò. Sembra avere buone chances ed in effetti continua a vincere, anche a Parigi, ma non trova sbocchi ulteriori: il suo ultimo combattimento è datato 22 settembre 1934 quando a Piacenza vince contro Leopardi. Non combatte mai per il titolo italiano e non riesce a salire i gradini verso le alte vette. La sua carriera rimane notevole, con un argento olimpico ed un ottimo score da professionista (14 vittorie e 2 sconfitte), ma gli è mancato quel quid che lo avrebbe potuto portare ancora più in alto. Sceso dal ring, ha un certo successo con la sua ditta di auto-trasporti: inizia l’attività a Piacenza, per poi spostarsi a Milano dove risiede sin dagli anni ’50. Rimane per decenni nel mondo della boxe, prima come apprezzato e deciso arbitro, poi come tecnico e presidente dell’APPI.