Родом из Чикаго, Эндрью Хилл, с детства пел, аккомпанируя себе на аккордеоне, танцевал степ, исполнял ритм-энд-блюз. Был замечен Эрлом "Фаза" Хайнзом. Брал уроки у тромбониста-аранжировщика оркестра Стэна Кентона Билла Руссо и у жившего в США великого немецкого композитора Поля Хиндемита. Он начал выступать, аккомпанируя саксофонисту Чарли Паркеру в 1953 году в Детройте. В середине 50--х много репетировал с Майлзом Дэвисом.