Allerede som 14-årig forlod Heerup skolen og søgte en læreplads. I begyndelsen prøvede han kræfter med at arbejde som bl.a. skiltemaler, litograf og bronzestøber, men den unge Heerup var ikke glad for ensformigt arbejde og alt for faste rammer. Friheden fandt han først med jobbet som cykelbud, der gjorde det muligt for ham at være udenfor samt at gøre afstikkere til f.eks. Statens Museum for Kunst for at studere Rembrandts maleteknik.

Den unge Heerup var allerede da optaget af at blive en rigtig kunstner, og Sankt Hans aften 1924 maler han sit allerførste oliemaleri. ”Ulvedalsegen”, som han kaldte det, blev til for foden af en af Dyrehavens gamle ege, og var for Heerup synonymt med hans egen kunstneriske fødsel. Derfor fejrede han også 10, 15, 20, 25 og 30 års jubilæet med manér. Så sent som i 1969 maler han desuden ”Drengen i Ulvedalsegen”, hvor han genskaber oplevelsen med modne kunstneriske øjne og ekspressiv kolorit. Mindet om de første erfaringer med maleriet var stærkt hos Heerup.

Samme år malede han sit første selvportræt i naturalistisk stil iført malerkittel og med blyant og tegneplade i hånden. Med en blanding af ro og dyb koncentration i øjnene afspejler dette tidlige værk Heerups kunstneriske ambitioner og særlige talent. Han modtog undervisning i croquis og tegning hos maleren Helge Helme samt på Niels W. Rasmussens malerskole, og i 1927, blot 20 år gammel, blev han optaget på Det Kgl. Kunstakademis Malerskole.

Heerup huskede Akademiet som sin ungdoms bedste tid. I Decembristernes udstillingskatalog fra 1954 skriver han:

”Her er jeg igen (Aargang 1907). Paa Akademiet var der Hyggeligt – Det er Nu ikke Lyv. Med Kammerater Her Paa Høst og Decembristerne i Tankerne. Saa Forskellige Vi Er Jo. Men brænder Dog af Samme Ild.”

Studietiden fra 1927-32 former i høj grad Heerup, og professorerne på Akademiet bliver betydningsfulde bekendtskaber. Symbolisten Ejnar Nielsen viser med sit blik for maleriets ekspressive kvaliteter stor interesse for Heerups udtryk og tekniske kunnen, og Aksel Jørgensen åbner om nogen den unge kunstners øjne for såvel grafikken som hverdagens motiver. Foruden disse vigtige inspirationskilder tænkte Heerup altid tilbage på sammenholdet blandt de studerende med stor glæde.