Giovanni Sgambati wurde in Rom als Sohn eines italienischen Vaters und einer englischen Mutter geboren. Sgambati, der seinen Vater früh verlor, erhielt seine frühe Ausbildung in Trevi in Umbrien, wo er einige Kirchenmusikstücke schrieb und Erfahrungen als Sänger und Dirigent sammelte. 1860 ließ er sich in Rom nieder und begann, sich um die Anerkennung der besten deutschen Musik zu bemühen, die damals in Italien wenig bekannt war. Der Einfluss und die Unterstützung von Franz Liszt, der sich ab 1861 in Rom aufhielt, waren für ihn natürlich von größtem Vorteil, und es wurden Konzerte veranstaltet, bei denen Sgambati sowohl dirigierte als auch Klavier spielte.
In dieser Zeit (1864-1865) komponierte er unter anderem ein Quartett, zwei Klavierquintette, ein Oktett und eine Ouvertüre. Am 26. Februar 1866 dirigierte er Liszts Dante-Sinfonie bei der Eröffnung des Sala di Dante im Palazzo Poli, in dessen Nähe 27 Gemälde von Filippo Bigioli ausgestellt waren. In München, wohin er in Begleitung von Liszt reiste, machte er zum ersten Mal die Bekanntschaft mit der Musik Richard Wagners. Sein erstes Album mit Liedern erschien 1870 (Schott Music), und seine erste Sinfonie wurde 1881 im Palazzo del Quirinale gespielt; diese sowie ein Klavierkonzert wurden während seines ersten Besuchs in England 1882 aufgeführt; und bei seinem zweiten Besuch 1891 wurde seine Sinfonia epitalamio in der Philharmonie gegeben.
Sein umfangreichstes Werk, eine Requiem-Messe, wurde 1901 in Rom aufgeführt. Seine zahlreichen Klavierwerke haben einen dauerhaften Erfolg errungen. Sgambati war auch in der zeitgenössischen Musikszene als Förderer der Musik anderer tätig. Er dirigierte die italienischen Erstaufführungen von Beethovens dritter und siebter Sinfonie (1867 bzw. 1870). Er dirigierte auch die italienischen Erstaufführungen jüngerer Werke wie Liszts Dante-Sinfonie und das Christus-Oratorium.
Er starb im Alter von 73 Jahren in Rom. Zu seinen bedeutenden Schülern gehört die Pianistin und Komponistin Lucia Contini Anselmi.
