1924年生まれ。ケンタッキー州出身。10才からクラリネットのレッスンを始め、18才でアメリカ合衆国第92歩兵部隊に入隊。特別演奏隊でクラリネットとアルトサックスを担当。第二次世界大戦中にパリに駐留し、ピアニストのアート・シモンズ、ドン・バイアスらと共演。1940年代後半には、ジョン・ムーディーと共にツアーやレコーディング活動を行う。名誉除隊したのち、パリ音楽院にてクラリネットを専攻。1951年に帰国後、自身のバンドを従えて演奏、作曲や編曲活動に励む。
1950年代中盤、サン・ラと運命的な出会いをし、サン・ラの弟子として1958年にサン・ラ・アーケストラに参加、以降40年以上にも渡り強者揃いのリード部門を先導し続けている。マーシャルはホッジスとバイアスをルーツにしたスタイルを展開しながら、前衛サックスの即興演奏をサン・ラ・アーケストラの看板ソリストとして開拓している。
マーシャルはサン・ラと共に、1960年代前半に興ったアバンギャルド ジャズムーブメントの成長に大きな役割をはたし、全ての前衛サックス奏者に多大な影響を与えた。彼はまた、 "ワールドミュージック"と呼ばれ現在広く知られることになったアフリカ伝統音楽を演奏した最初のジャズミュージシャンでもある。 これまで、200以上のサン・ラの作品に参加しながらも、NRBQ、ソニックユース、ディゲイブル・プラネッツ、テリー・アダムス、メデスキー・マーティン アンド ウッド、そして日本が世界に誇る渋さ知らズ オーケストラなどの様々なジャンルのミュージシャンと活動し、ゲストソリストとして、コンサートやレコーディングに参加。世界中から最初の前衛的サックスプレイヤーとして認知され、Jazz Times 誌、Signal to Noise 誌など数えきれないほど多数の音楽雑誌で特集記事が掲載され、ラジオ、テレビなど様々なメディアでも取り上げられている。