Adolf Jensen wurde 1837 in Königsberg geboren. Zunächst entdeckte er als Autodidakt sein Musiktalent. 1852 studierte er bei Louis Ehlert und Friedrich Marpurg (1825–1884), dem Urenkel des Musiktheoretikers Friedrich Wilhelm Marpurg, in Berlin. Franz Liszt (1811–1886) wurde auf ihn aufmerksam und förderte sein pianistisches Talent. Nach Beendigung seines Studiums ging er 1856 nach Russland, zunächst als Musiklehrer, wurde dann im Jahre 1857 Kapellmeister am Stadttheater in Posen und studierte danach weitere zwei Jahre in Kopenhagen bei Niels Wilhelm Gade. 1860 kehrte er nach Königsberg zurück und gelangte dort schnell zu Ansehen als Komponist und als Lehrer. 1866 erhielt er einen Ruf als Professor für Klavier nach Berlin an Tausigs „Schule für das höhere Klavierspiel“. Dort lehrte er bis 1868, siedelte dann nach Dresden um und zog 1870 nach Graz.

Seine letzten vier Lebensjahre verbrachte er in Baden-Baden, wo er regelmäßigen Kontakt mit seinem Freund Johannes Brahms (1833–1897) hatte. Am 23. Januar 1879 verstarb er im Alter von nur 42 Jahren in Baden-Baden an einer schweren Lungenkrankheit.