Nato Karlheinz Weber a Saarbrücken nel 1934, studiò architettura all'Università Tecnica di Stoccarda dal 1954, con un'interruzione per una borsa DAAD all'École des Beaux-Arts di Parigi nel 1959-60. Dal 1957 lavorò accanto a Günter Behnisch e Bruno Lambart, e nel 1966 divenne socio di Behnisch & Partner. Fu Weber a costruire, con Frei Otto e Heinz Isler, il modello di concorso dello Stadio Olimpico di Monaco con bacchette di legno e una calza da donna, dopo che un collega propose di stendere un unico velario su tutta l'area: lo schizzo da cui nacque la copertura a tenda. Lasciò la società nel 1979 e diresse un proprio studio a Stoccarda e Monaco con Fritz Auer dal 1980 fino alla morte, costruendo la Casa dei Festival di Recklinghausen e il Teatro di Hof, e insegnò a Stoccarda e Dresda. Morì a Stoccarda nel maggio 2014.
