In seiner Heimatstadt New Orleans begann er mit zehn Jahren in Marschbands zu spielen, wie den Young Swingsters. In dieser Zeit erhielt er Unterricht von dem New-Orleans-Jazz-Schlagzeuger Sidney Montague. 1945/46 studierte er am Alabama State College, wo er in Studentenbands spielte; in New Orleans arbeitete er sowohl mit Musikern des Traditional Jazz wie auch des Bebop. 1946 zog er nach Chicago, wo er zunächst in der Rhythm and Blues Band vonKing Kolaxspielte.Dort spielte er dann mit vielen Chicagoer Musikern wie Paul Bascomb und Teddy Wilson. Von 1953 bis 1955 arbeitete er als Hausschlagzeuger im Bee Hive Club an Chicagos South Side, wo er durchreisende Solisten wieLester Young, Ben Webster, Sonny Stitt, J. J. Johnson und Stan Getz begleitete. Im Trio von Norman Simmons spielte er 1956 (Norman Simmons Trio). 1957 wurde er Mitglied im von Ahmad Jamal, dem auch der Bassist Israel Crosby angehörte; er blieb bis 1962 in der Gruppe.Das Trio trat in derPershing Lounge auf und nahm eine Reihe erfolgreicher Alben für Argo/Chess Records auf; wie das 1958 erschienene AlbumLive at the Pershing und Ahmad Jamal Trio Volume IV. In seinem oft unterbewerteten Stil fiel vor allem sein subtiles Spiel mit dem Besen auf.Nach seinem Weggang von Jamal wurde Fournier zwei Jahre lang Mitglied der Band von George Shearing.Anfang der 1960er Jahre wirkte er auch an Plattenaufnahmen vonSam Jones und Kenny Burrell mit, 1965/66 spielte er erneut bei Ahmad Jamal, außerdem begleitete er die Sängerin Nancy Wilson. Ab 1979 leitete er in Chicago ein eigenes Trio. 1975 konvertierte er zum Islam und nahm den muslimischen Namen Amir Rushdan an.1980 zog er nach New York und arbeitete mit dem Saxophonisten Clifford Jordan, begleitete gelegentlich die SängerBilly Eckstine und Joe Williams und die Pianisten John Lewis und Barry Harris. In New York hatte er ein eigenes Trio und arbeitete als Lehrer in Barry Harris’ Jazz Cultural Theatre, der New School und dem Mannes College of Music. 1990 verbrachte er zwei Monate in Japan, wo er im Trio mit Tardo Hammer und Victor Sproles auftrat.1994 erlitt er einen Schlaganfall, was seine Musiker-Karriere beendete, aber er setzte seine Aktivitäten als Lehrer fort. 1998 zog er in den Bundesstaat Mississippi, wo er im Jahr 2000 an einem Hirn-Aneurysma verstarb.Now with Peter Erskine
Anfang der 1960er Jahre zog er nach New York, wo er als Berufsmusiker Fuß zu fassen versuchte. Bis 1965 konnte er jedoch keinen nennenswerten Erfolg erzielen, so dass er gezwungen war, diverse Nebenjobs anzunehmen und sogar sein Instrument zu verpfänden. In dieser Zeit spielte er gemeinsam mit einigen Vertretern desFree Jazz wie Sun Ra (Konzert 1964 und resultierendes Album Featuring Pharoah Sanders and Black Harold) und Don Cherry. 1963 gründete er eine eigene Band mit dem Pianisten John Hicks, dem BassistenWilbur Ware und dem Schlagzeuger Billy Higgins. Die Gruppe erregte die Aufmerksamkeit John Coltranes, so dass Sanders 1964 gebeten wurde, mit Coltranes Band aufzutreten. Die gemeinsamen Auftritte wurden bis 1965 häufiger (etwa A Love Supreme: Live in Seattle), obwohl Sanders nie offiziell als Mitglied von Coltranes Band galt. Sanders’ und Coltranes Musik aus dieser Zeit wirft die traditionellen Jazz-Formeln und die funktionelle Harmonie über Bord und konzentriert sich stattdessen auf Töne, wie sie u. a. auf Coltranes Album Ascension von 1965 zu hören sind.
Nach Coltranes Tod arbeitete Sanders überwiegend mit eigenen Ensembles, aber auch mit Alice Coltrane. Nach einem Debütalbum für das Label ESP mit der Pianistin Jane Getzveröffentlichte er von 1966 bis 1973 mehrere Alben für das Label Impulse!. Seine erste Veröffentlichung auf diesem Label Tauhid wählte das MagazinRolling Stone 2013 in seiner Liste Die 100 besten Jazz-Alben auf Platz 89. Es folgte ein Ausflug zu Arista. Von den späten 1970er Jahren bis 1987 erschienen seine Alben beim kleinen Independent-Label Theresa. Seit 1987 veröffentlichte er unter den Labels Evidence und Timeless, wobei Evidence Theresa übernahm und seine Alben aus dieser Zeit wiederveröffentlichte. 1995 erschien Message from Home, das von Bill Laswell produziert wurde, auf dem Major-LabelVerve; im Vorjahr war Sanders neben Mahmoud Ghania auf The Seven Colors of Trance (Axiom) zu hören. Joey DeFrancesco beteiligte ihn 2019 an seinem Album In the Key of the Universe.
Sanders gilt als einer der Begründer des Ethno-Jazz, wobei er denIslam und die spirituellen Traditionen Afrikas oft in seine Arbeiten einbezog und zum Thema seiner Musik machte.