Warren Smith urodził się 14 maja 1934 roku w Chicago w Illinois w rodzinie muzyków. Jego ojciec grał na saksofonie i klarnecie z Noblem Sisslem i Jimmym Noonem. Matka zaś była harfistką w pianistką. Zainteresowanie muzyką otrzymał więc w genach i już jako czterolatek, zafascynowany talentem taty, próbował swoich sił w grze na klarnecie. W roku 1957 ukończył University of Illinois. Rok później rozpoczął naukę gry na perkusji w Manhattan School of Music.
We wczesnych latach kariery artysta współpracował z Milesem Davisem i Gilem Evansem. W roku 1961 założył Composers Workshop Ensemble – nowojorski jazzowy zespół, z którym wydał dwa krążki dla Strata-East Records.W latach sześćdziesiątych pracował m.in. z Arethą Franklin, Niną Simone, Lloydem Pricem oraz Nat King Cole. W latach 1964-1976 grał z Samem Riversem a w latach 1969-1976 z Gilem Evansem. Pod koniec tej dekady współpracował z Janis Joplin, a na początku kolejnej grywał u boku Tony’ego Williamsa. Ponadto był jednym z członków zespołu Maxa Roacha – M’Boom w roku 1970. To dziesięciolecie przyniosło mu możliwość gry z takimi muzykami jak Andrew White, Juliusz Hemphill, Quincy Jones, Count Basie, Mural Richard Abrams, Vanem Morrisonem, Charlesem Minusem, Anthonym Braxtonem czy Carmen McRae. Ponadto zaangażował się we współpracę z artystami muzyki pop. W tej oraz kolejnej dekadzie był właścicielem Studio Wis, służącego wielu młodym, początkującym muzykom Nowego Jorku – Wadada Leo Smithowi, czy Oliver Lake’owi. W latach dziewięćdziesiątych ponownie zaangażował się w pracę na Broadwayu. Lata dziewięćdziesiąte poświęcił na nagrywanie i występowanie u boku Billego Cole’a i jego Untempered Ensemble oraz wynalazcy instrumentów – Coopera Moore’a. W roku 1998 wydał solowy „Cats Are Stealing My ----„, który cieszył się ogromną popularnością i uznaniem zarówno wśród publiczności, jak i krytyków, którzy okrzyknęli album jednym z jego najlepszych.