Przygodę z muzyką rozpoczął w wieku czterech lat. Ukończył Interlochen Arts Academy w Michigan i rozpoczął naukę gry na perkusji na Indiana University. Jego profesjonalna kariera rozpoczęła się w roku 1972, gdy dołączył do orkiestry Stana Kentona. Po trzech latach zdecydował się na współpracę z Maynardem Fergusonem, która potrwała dwa lata. W roku 1978 dołączył do Weather Report, co ukształtowało jego dalszą karierę. Po upływie czterech lat, w trakcie których artysta wydał z zespołem pięć albumów, dołączył do Steps Ahead. Stworzył cenione nagrania z Bobem Mintzerem, będące połączeniem jazzu i funku. Jego niezwykły talent doceniony został m.in. przez Kate Bush, która zaprosiła go do współpracy nad albumem "Aerial" z roku 2005, gdzie artysta miał okazję zagrać z Eberhardem Weberem. Ponadto współpracował ze szkockimi i fińskimi orkiestrami, a także Dianą Krall, Eliane Elias, Queen Latifah, czy Lindą Ronstadt. Wiele lat poświęcił na nagrywanie i podróżowanie z wieloma cenionymi muzykami jazzowymi i rockowymi.
Dziś Erskine jest wykładowcą Szkoły Muzycznej Thomton na Uniwersytecie Południowej Kalifornii. W roku 2011 pojawił się na Royal Opera House w Londynie.