Der Refrain wiederholt die Zeile „Smoke on the Water“, um ein lebendiges Bild des Rauchs zu erzeugen, der über dem See, dem Genfersee, aufsteigt. Das Lied erwähnt auch den Spielsaal des Montreux Casinos und wie er „wie ein Hund brannte“. Weitere bemerkenswerte Zeilen sind „Wir kamen alle nach Montreux am Ufer des Genfersees“, „Funky Claude rannte ein und aus und zog Kinder aus dem Boden“, was sich auf den Besitzer des Veranstaltungsortes, Claude Nobs, der bei der Rettung half, und „When in“ bezieht In der Stille erinnern wir uns an alles, an eine längst vergangene Zeit, die wir unser Zuhause nannten, und denken über die Folgen und Erinnerungen dieser Nacht nach.
Der Song wurde zu einem der erfolgreichsten und bekanntesten Hits von Deep Purple und wurde im Laufe der Jahre von zahlreichen anderen Künstlern gecovert.