Der in Wiesbaden geborene Kaufmann hatte 1969 die Lebensmittelgruppe in vierter Generation übernommen und bis 2000 als allein geschäftsführender Gesellschafter geführt. In den mehr als 30 Jahren baute er Tengelmann zu einem international tätigen Warenhandelskonzern aus.
Schon 1971 übernahm Tengelmann unter Haub die Kaiser's Kaffee-Geschäft AG in Viersen. Ein Jahr später brachte er den Markendiscounter Plus an den Start.