Los detalles sobre los primeros años de su vida son fragmentarios. Probablemente nació en torno al año 1495 al sur de Flandes, en la ciudad de La Gorgue. Se dice que estudió con Josquin Desprez en la época en que éste estuvo retirado en Condé sur l'Escaut (1515-1521).
Gombert fue contratado como cantante y probablemente también como compositor de la capilla del emperador Carlos V en 1526, apareciendo en 1529 como magister puerorum (maestro de los niños) cargo en el que continuó hasta 1537.
Girolamo Cardano afirma en su Theonoston en 1560 que Gombert fue condenado a galeras por abusar de un niño que estaba a su cargo. Su liberación debió de producirse como muy tarde en 1547 ya que se conserva una carta y un motete que envió Gombert desde Tournai ese mismo año.
No está muy claro cómo se desarrolló la vida de Gombert después de su liberación. En 1556 el teórico alemán Hermann Finck lo menciona como si aún estuviese vivo, mientras que Cardano, en 1561, escribió que ya estaba muerto.