Ersten Musikunterricht erhielt Isfrid - eigentlich getauft auf den Namen Laurentius Antonius - vom Vater, der Schulmeister und Organist im Geburtsort Türkheim war. Nach seinem Aufenthalt als Schüler im Jesuitengymnasium von München trat er als Novize in die Praemonstratenser Reichsabtei Obermarchtal ein und legte auch hier die Profess ab. Nach seinem immer bekannter werdenden Ruf als Komponist wurde er später zum Director musices der Abtei ernannt, war dann aber auch für 10 Jahre als Pfarrer in den umliegenden Dorfgemeinden tätig. Anschließend ging er wieder als Subprior ins Kloster zurück. Immer häufiger verlangten verschiedene Klöster im weiten Umkreis nach seinen musikalischen Theater-Beiträgen, für die er sehr angesehen war. So wurde auch beim Durchreisebesuch von Marie-Antoinette eine dieser szenischen Kantaten aufgeführt. 1771 verstarb er im Kloster Marchtal. Mit Kaysers Werken ging auch der gesamte übrige musikalische Besitz des Klosters nach der Säkularisierung an das Fürstenhaus Thurn und Taxis.