Eccard stammte aus Mühlhausen in Thüringen. Auf humanistische Art schrieb er sich "Johannes Eccardus Mulhusinus". Er war Sängerknabe in der Hofkapelle in Weimar und danach bis 1574 in der Münchner Hofkapelle, als Schüler von Orlando di Lasso. Er hatte zwei Sammlungen von Liedkompositionen vorgelegt, da erhielt er seine erste Anstellung 1576-1579 als Organist im Hause Fugger in Augsburg. 1580 folgte er einer Berufung nach Königsberg als Kapellmeister des Herzogs von Preußen. Der Herzog war krank, für ihn regierte sein Vetter, der Markgraf Georg Friedrich von Ansbach-Bayreuth, der auch eine eigene Kapelle unter Theodoro Riccio hatte. Eccard war zunächst Vizekapellmeister, blieb das auch nach dem Weggang von Riccio und wurde erst 1604 Hofkapellmeister. Der Herzog von Preußen war streng lutherisch; Eccards Aufgabe war vorwiegend die Kirchenmusik. Seine Kapelle bestand zeitweilig aus 5-7 Berufssängern (Alt, Tenor, Bass), 5-6 Sängerknaben (Discantus) und 2-3 Instrumentalisten.

Eccards Kompositionen erschienen in Druck in mehreren Sammelwerken, daneben schuf er zahlreiche - -Gelegenheitsmusiken, meist zu-Hochzeiten. Einige Werke erschienen erst nach Eccards Tod, herausgegeben von seinem Kollegen und ehemaligen Schüler J. Stobaeus. Eccards Ruhm beruhte auf seiner Meisterschaft im kunstvollen Liedsatz.

Im Zusammenhang mit einem Regierungswechsel wurde Eccard 1608 kurfürstlich brandenburgischer Hofkapellmeister in Berlin. Aus dieser Zeit bis zu seinem Tod 1611 sind keine Kompositionen bekannt.