Sohn des Bankangestellten Alois K. und dessen Frau Anna, geb. Sterer. Wurde aufgrund seines musikalischen Talents Sängerknabe im Stift Seitenstetten. Besuchte anschließend das Linzer Petrinum, an welchem er 1932 maturierte. Im selben Jahr trat er ins Stift St. Florian ein. 1938 wurde er zunächst zum Subdiakon und dann im Linzer Dom zum Priester geweiht. Im Stift St. Florian hätte er ursprünglich als Zeichenlehrer angestellt werden sollen, war dann aber vorerst Verwaltungs-Adjunkt im Lohnbüro. Möglicherweise wirkte er bereits parallel dazu als Musiklehrer und Organist. Ab 1941 war er im Exil der Chorherren in Pulgarn/OÖ u. a. Organist. Während der Kriegsjahre absolvierte er private Musikstudien bei F. X. Müller (Theorie). Ab 1945 (nach der Rückkehr nach St. Florian) Stiftsorganist und Magister choralis (Choralsingen, Blattlesen) der Sängerknaben und Kleriker. Parallel dazu war er Dozent an der theologischen Lehrerbildungsanstalt in Linz. Nach 1945 nahm er Unterricht bei F. Reidinger, mit dem ihn in weiterer Folge eine Freundschaft verband. Bis zu Beginn der 1970er Jahre war er zudem Konviktsdirektor (Leiter des Sängerknabeninstituts) in St. Florian. K. setzte sich bei den Florianer Sängerknaben v. a. für eine solide Choralausbildung ein. Zu seinen Kollegen beim Gesangsunterricht der Sängerknaben zählten E. Warscher sowie sein Mitbruder und ehemaliger Schüler A. Kropfreiter.