Olsson wurde in Wallasey, Cheshire, England geboren. Er begann im Alter von 12 Jahren Schlagzeug zu spielen und spielte in mehreren lokalen Bands, bevor er 1970 Johns Band beitrat. Seitdem hat er auf allen Studioalben von John mitgespielt und war auch ausgiebig mit ihm auf Tour.
Zusätzlich zu seiner Arbeit mit John spielte Olsson auch Schlagzeug für andere Künstler, darunter George Harrison, Ringo Starr und Stevie Wonder. Er hat auch zwei Soloalben veröffentlicht, „Nigel Olsson“ (1975) und „Move the Universe“ (1980).
Olsson gilt als einer der besten Schlagzeuger des Rock'n'Roll. Er ist bekannt für seine solide Zeitmessung, sein kraftvolles Schlagzeugspiel und seine Fähigkeit, mit den anderen Instrumenten der Band zu harmonieren. Er wurde in die Modern Drummer Hall of Fame und die Rock and Roll Hall of Fame aufgenommen.