Bruch, der Sohn eines Polizeirates und einer Sängerin, erhielt seinen ersten Musikunterricht von seiner Mutter. Von 1853 bis 1857 studierte er Komposition bei Ferdinand Hiller. Danach hielt er sich vorübergehend in Leipzig, Bonn und Mannheim auf. 1865 erhielt er den Posten des Musikdirektors in Koblenz. Zwei Jahre später wechselte er nach Sondershausen, wo er bis 1870 als Hofkapellmeister tätig war. In den folgenden Jahren lebte er zunächst als Musiklehrer in Berlin und ab 1873 als freischaffender Komponist in Bonn. Er knüpfte in dieser Zeit Kontakte zu den bedeutendsten Musikerpersönlichkeiten seiner Zeit, u.a. zu Johannes Brahms, Joseph Joachim und Pablo de Sarasate. 1878 nahm Bruch wieder eine Stelle an, die Leitung des Sternschen Gesangsvereins in Berlin. Von 1880 bis 1883 leitete er die Philharmonic Society in Liverpool. Nach einer Reise in die USA übernahm er noch im selben Jahr die Leitung des Breslauer Orchestervereins, die er bis 1891 inne hatte. 1891 erhielt Bruch eine Meisterklasse für Komposition an der Berliner Akademie der Künste. Zu seinen dortigen Schülern zählt neben den Operettenkomponisten Oscar Straus und Eduard Künnecke der englische Komponist Ralph Vaughan Williams. 1911 ging er in den Ruhestand. In seinen letzten Lebensjahren drängte er sich durch seine erzreaktionären Ansichten in sämtlichen Lebensbereichen immer mehr ins Abseits. Bruch erhielt viele Auszeichnungen, u.a. 1893 die Ehrendoktorwürde der Universität Cambridge.