Karl Hartung wird 1908 als Sohn eines Tischlers in Hamburg geboren. 1923 beginnt Hartung eine Lehre als Steinmetz, anschließend geht er zum Kunststudium. Ein Stipendium führt Karl Hartung 1929 nach Paris, dort studiert er das Werk Rodins und Maillols.
Als Karl Hartung 1932 nach Hamburg zurückkehrt, spürt er, dass sich für ihn als abstrakt arbeitenden Bildhauer die Arbeits- und Lebensbedingungen durch die Kulturpolitik des NS-Regimes erschweren. 1936 siedelt Hartung mit seiner Familie nach Berlin über. Erst seine erste Einzelausstellung 1946 in der Galerie Rosen in Berlin bringen für ihn den künstlerischen Durchbruch.
1959 wird Karl Hartung an die Hochschule der Bildenden Künste Berlin berufen, 1955 übernimmt er den Vorsitz des Deutschen Künstlerbundes. In diesem Jahr nimmt Hartung an der "documenta I" teil. Es folgen Teilnahmen an der Biennale in Venedig und weitere internationale Ausstellungen.
Am 19. Juni 1967 stirbt Karl Hartung in Berlin.