Fin da giovane Mulligan suonò diversi strumenti, dal pianoforte al clarinetto, per poi dedicarsi definitivamente a quello che lo rese famoso, il sax baritono. Mulligan diede al baritono un suono più morbido e moderno di quello che lo strumento aveva avuto nel jazz dagli anni Venti ai Quaranta, e con Cecil Payne e Serge Chaloff fu fra i primi a praticare sullo strumento l’idioma bebop. Gerry Mulligan detiene forse il primato per numero di collaborazioni con i più svariati musicisti. Ha suonato infatti, come solista o sideman, con quasi tutti i grandi del suo tempo: Paul Desmond, Duke Ellington, Chet Baker, Ben Webster, Johnny Hodges, Billie Holiday, Stan Getz, Thelonious Monk, Quincy Jones, Miles Davis, Astor Piazzolla, Count Basie, Dave Brubeck, Charles Mingus.