Wkrótce artysta rozpoczął grę w zespole r&b. W wieku trzynastu lat zainspirowała i zaskoczyła go muzyka jazzowa Milesa Davisa.
"Sądzę, że to instrument nas wybiera. Zwykłem grać z użyciem słupków i misek, gdy byłem mały. Ustawiałem je jak perkusję w wieku czterech lat, więc instynkt miałem od zawsze."
„Kaznodzieje zakazywali propagowania jazzu. Wówczas ludzie przestali tańczyć, zawieszali działalność wielkich zespołów. Bebop przemienił jazz z folkloru na nieco bardziej intelektualne brzmienie. To właśnie dlatego pojawiło się r&b. Było zapotrzebowanie na bardziej proletariacką muzykę. Bebop stał się muzyką kultową. To był czas rewolucji. Byłem tego świadkiem.”
Tuż po ukończeniu Philadelphia Conservatory of Music w wieku dwudziestu dwóch lat, odbył swą pierwszą sesję z Freddiem Hubbardem. Wówczas wydali „Breaking Point”. Rozpoczynając od , przeniósł się w trasę z Haroldem Landem, Sonnym Collinsem, Herbiem Hancockiem, Ericem Dolphym i Dizzym Gillespiem. Jego pełna emocji gra, głęboka rytmika i zaskakująca kreatywność stały się znakami przewodnimi artysty. W tym czasie pojawił się na „Components” Hutchersona, „Schizophrenia and Etcetra” Sortera, „Compulsion” Hilla, „Tender Moments” Tynera, „New Thing At Newport” Archiego Sheppa, „Like a Bird” Charlesa Mingusa, „Tones for Joan’s Bones” Chicka Corea i wielu innych nagraniach cenionych muzyków. Wiele kompozycji stworzonych przez Chambersa wykorzystanych zostało przez Hutchersona, Hubbarda, czy M’Boom. Ponadto zainteresowanie jego nagraniami wykazał Spike Lee. Joe nagrał ścieżki dźwiękowe do jego filmów, w tym m.in. „Mo’Better Blues”. Pomimo wszystkich tych dokonań i ukłonów ze strony różnych środowisk, Chambers jest osobą skromną i ambitną.
„Kiedy tworzyliśmy te nagrania, nie myśleliśmy o nich jak o tworzeniu historii. My tylko graliśmy. Musicie zrozumieć, byłem pochłonięty sytuacją lat sześćdziesiątych. Miałem zupełnie inne nastawienie przeciwko władzy, przeciwko wojnie, skłaniałem się ku haśle „pokój i miłość”. Byłem w to wciągnięty. (…) Tworzyliśmy muzykę.”
W następnej dekadzie Joe poświęcił się tworzeniu tekstów, graniu i pojawianiu się na scenie. Wówczas stał się niezależny, tworząc wzniosłą i rytmiczną muzykę. Nowy album „Mirrors” postawił go w świetle nie tylko wpływowego perkusisty, ale przede wszystkim kompozytora. W skład grupy, pracującej nad krążkiem, wchodzili artyści tacy jak Eddie Henderson, Vincent Herring, Ira Coleman, Mulgrew Miller. Utwory na „Mirror” przedstawiają historie w jakiś sposób połączone ze sobą.
„Istnieje podwójne znaczenie tego tytułu. Psychologiczne znaczenie odnosi się do powrotu do lat sześćdziesiątych, byłem introspekcyjny i tamta dekada ma swoją kontynuację w moim życiu ilekroć spojrzę w lustro. Ze strony technicznej chodzi o sposób pisania zwany „pismem lustrzanym.”