Nacido como Frederick Russell Jones, Fritz, en Pittsburg en julio de 1930, Ahmad comenzó a tocar el piano a los tres años y con siete inició los estudios formales de música. Con 14 años formaba parte del sindicato de músicos y fue reconocido por el pianista Art Tatum por tener “un futuro prometedor”. 

En la década de los 50, Fritz se mudó a Chicago y se convirtió al Islam, cambiando su nombre a Jamal Ahmad. Allí dirigió varios tríos y cuartetos de jazz hasta que se instaló con el bajista Israel Crosby y el batería Vernel Fournier. Juntos lanzaron 'At The Pershing: But Not For Me', considerada como una de las grabaciones más populares e influyentes de la historia del jazz.

Su álbum ‘The Awakening’, grabado a finales de los años 60, logró una gran aclamación por la originalidad del trabajo según los estándares del jazz. Ahmad también ha compuesto música para bandas sonoras de varias películas y ha fundado varios sellos discográficos. Lanzó hasta tres álbumes al año a finales de 1960 y principios de 1970, registrando más de 60 en toda su carrera.