Weitzmann estudió violín y composición con Carl Henning y Bernhard Klein a mediados de la década de 1820, y composición y teoría musical con Louis Spohr y Moritz Hauptmann en Kassel de 1827 a 1832. En Riga, Weitzmann compuso para una Liedertafel, que fundó junto con Heinrich Dorn en 1832. En Reval, actual Tallin, fue nombrado director musical y compuso tres óperas. A partir de 1836 ocupó puestos en las orquestas de la corte de San Petersburgo durante diez años; allí también comenzó a coleccionar libros de música raros y música folclórica. A continuación, realizó una gira de conciertos por Laponia y Finlandia, seguida de breves nombramientos en orquestas de París y Londres. En 1848, Weitzmann regresó a Berlín, donde se dedicó a la investigación de la historia y la teoría de la música. En 1857 comenzó a dar clases en el Conservatorio Stern.
En 1853, Weitzmann publicó Der übermässige Dreiklang (La tríada excesiva), en el que demostró que una tríada menor puede considerarse una tríada mayor "invertida", y cómo ambas pueden producirse a partir de una fundamental común. También mostró las relaciones entre la tríada aumentada y estos tipos de tríada. Es posible que Franz Liszt estuviera influenciado por esta obra, como sugiere un análisis de su Sinfonía Fausto. En escritos posteriores, Weitzmann también trasladó su dualismo armónico a las escalas. Estas ideas fueron desarrolladas por Arthur von Oettingen y Hugo Riemann.
En 1860, Weitzmann publicó un sistema de armonía que fue criticado en varias ocasiones. Con su escrito Die neue Harmonielehre im Streit mit der alten (La nueva teoría de la armonía en disputa con la antigua), intentó contrarrestar esta crítica. En su consideración de los sistemas de afinación, Weitzmann se apartó de la opinión de la mayoría de los teóricos: mientras que muchos musicólogos consideraban los sistemas de afinación como un compromiso necesario, Weitzmann fue posiblemente el primero en adoptar una postura sistemáticamente positiva. Asumió el temperamento igual y explicó cómo se pueden resolver los acordes disonantes que se producen en él.
