Karierę muzyczną Gene rozpoczął w latach dwudziestych, koncertując u boku zespołów w Winsconsin. Pod koniec tej dekady MCA zaoferowało mu członkowstwo w Thelma Terry and Her Playboys, będącym pierwszym sławnym amerykańskim zespołem jazzowym. Grupa koncertowała regularnie po wschodnich i centralnych Stanach Zjednoczonych. Pierwszy raz Krupa nagrał utwór w roku 1927 z zespołem, którego liderami byli Eddie Condon i Red McKenzi (duet ten znany jest dzięki pierwszemu zastosowaniu całego zestawu perkusyjnego podczas nagrań). W studio nagraniowym Krupa zaistniał również u boku Thelmy Terry i jej zespołu. W tych latach inspiracją dla Gene Krupy byli Tubby Hall i Kutty Singleton, a także Baby Dodds
W roku 1934 Eugene dołączył do grupy Benny’ego Goodmana. Współpraca z jego zespołem okazała się być wspaniałą szansą na wybicie się Gene’a i wkrótce stał się cenionym artystą. Charakterystyczna przerwa w utworze „Sing, Sing, Sin” okazała się być pierwszym rozbudowanym solo nagranym komercyjnie. Tego samego roku po raz pierwszy poślubił Ethel Maguire, z którą rozwiódł się w roku 1942. Pod koniec tego dziesięciolecia Gene i jego orkiestra przyczynili się do powstania ścieżki dźwiękowej filmu „Some Like it Hot”, odgrywając utwory „Blue Rhytm Fantasy”, czy „The Lady’s in Love with You”. Już dwa lata później zespół skomponował utwór Barbary Stanwyck „Drum Boogie”, zaistniały w filmie „Ball of Fire”.
W roku 1943 Krupa został aresztowany za posiadanie marihuany. W więzieniu odsiedział trzy miesiące. We wczesnych latach czterdziestych Woody Herman zaoferował Gene’mu dołączenie do oktetu. Artysta występował również regularnie z Jazz At The Philiharmonic. W roku 1946 ponownie poślubił Ethel. Małżeństwo trwało do roku 1955 – momentu śmierci Maguire.
W latach pięćdziesiątych znacznie rozwinęła się jego technika gry na perkusji, dojrzewając przy użyciu nowych stylów i trendów. Nigdy jednak Gene nie dostosowywał się do stylu „Be-Bop”, charakteryzującego się szybkim tempem i improwizacją opartą na harmonicznej strukturze i uporządkowanej melodii. W roku 1954 perkusista pojawił się w filmie „The Glenn Miller Story” oraz w „The Benny Goodman Story”. Pod koniec tego dziesięciolecia powstał zaś biograficzny film Krupy – „The Gene Grupa Stroy”. W roku 1959 poślubił Patty Bowler.
W latach sześćdziesiątych współpracował z Cozym Colem oraz grywał w słynnych klubach – m.in. w Metropole, ulokowanym w Nowym Jorku. Problemy zdrowotne dotyczące bólu jego pleców doprowadziły go do rezygnacji z aktywności zawodowej i podjęcia decyzji o tworzeniu szkoły muzycznej.
We wczesnych latach siedemdziesiątych okazjonalnie Gene występował publicznie. W roku 1978 został wprowadzony do Modern Drummer Hall of Fame jako pierwszy perkusista. Zmarł 16 października 1973 na leukemię i wskutek pogarszającego się stanu serca. Pochowany został w Holy Cross Cemenetry w Kalumet City w stanie Illinois.