Przed powstaniem grupy Van Halen Alex i Eddie tworzyli parę innych grup – The Broken Off Combs, The Space Brothers, czy Mammoth Chammoth. W czasie pobytu w koledżu artysta stworzył zespół Mammoth, który pochłonął jego czas na tyle, że zdecydował się rzucić studia. Mark Stone zajął miejsce przy basie, a Eddie pełnił rolę głównego wokalisty. Niedługo potem bracia zatrudnili również Roth.a Wkrótce „Mammoth” okazało się być zajęte przez inny zespół, a grupa zmieniła nazwę na Van Halen. Na miejsce Marka Stone’a wstąpił Michael Anthony, którego Alex poznał w czasie studiów. Album z roku 19782 „Van Halen” powstał pod wpływem inspiracji wieloma muzykami hard rockowymi. Alexander wprowadził w tym czasie do swojej perkusji tzw. „brązowe brzmienie”, które wcześniej kojarzone było głównie z gitarą Eddiego. Publiczność zna Alexandra z agresywnych wykonań solowych i scenicznych pirotechnik.Choć talent muzyczny Alexa Van Halena usłyszeć można głównie na nagraniach zespołu Van Halen, to przyczynił się on również do powstania ścieżki dźwiękowej filmu „Twister”. W utworze „Respect The Wind” Alexander zasiadł przy keyboardzie, Eddie zaś grał na gitarze. Braci otrzymali nominację do Grammy w roku 1997 za Najlepszy Rockowy Utwór Instrumentalny.
W czerwcu 1983 roku Van Halen poślubił Valeri Kendall tuż po dwuletnim okresie narzeczeństwa. Niestety, już dwa miesiące po ceremonii para rozwiodła się. Alex jest ojcec Arica Van Halena, którego matką jest Kelly Danniels – kolejna żona Alexandra, z którą w roku 1996 rozwiódł się po dwunastu latach małżeństwa. W roku 2000 artysta ożenił się po raz trzeci ze Stine Schyberg – matką jego drugiego syna Malcolma.
Muzyk zajął trzydzieste drugie miejsce w rankingu „100 najlepszych perkusistów” wg magazynu „Rolling Stone”.