Desmond wurde in San Francisco, Kalifornien, geboren und begann im Alter von 13 Jahren Klarinette zu spielen. In der High School wechselte er zum Saxophon und spielte in mehreren Bands, bevor er 1951 Brubecks Quartett beitrat.
Mit dem Brubeck Quartett nahm Desmond einige der beliebtesten und erfolgreichsten Jazzalben der 1950er und 1960er Jahre auf, darunter „Time Out“ (1959), auf dem Desmonds Komposition „Take Five“ zu hören war.
Desmond verließ das Brubeck Quartett 1967 und nahm vor seinem Tod 1977 mehrere Alben als Bandleader auf.
Desmond war für seinen coolen und zurückhaltenden Spielstil bekannt, der oft mit dem von Stan Getz verglichen wurde. Er war auch ein begabter Komponist und schrieb viele der beliebtesten Lieder des Brubeck Quartetts, darunter „Take Five“, „Blue Rondo a la Turk“ und „Unsquare Dance“.
Desmond wurde 1991 in die Down Beat Jazz Hall of Fame aufgenommen.