「歌詞がなかった頃、“Smoke on the Water”はリッチー(ブラックモア)のリフから“ダーダーダーの曲”と呼ばれていた。カジノが焼失した後、(モントルー・ジャズ・フェスティバルの創始者)クロード(ノブス)がパヴィヨン・ボールルームという場所を見つけてくれ、そこで俺たちはこの曲を試行錯誤し始めた。ジョン・ロードはオルガンでリフを重ね、コードを反転させていた。ロジャー(グローヴァー)のベースは非常にしっかりしていて、それが俺に自由に演奏する余地を与えてくれたため、ドラムはクレッシェンドで盛り上がっていった。レコーディングを始めたばかりの時、外で点滅する光が見え、警察が到着していた。ローディーたちはドアを閉め続け、俺たちがテイクを終えるまで持ちこたえた。(ドアが開くと)警官はこう言った。“止めなさい!うるさすぎる!”。
クロードは、閉鎖されたグランドホテルで続けることを提案していた。その頃、リッチーはアルバム『Machine Head』にはスローな曲“When a Blind Man Cries”を入れたくないと考えていた。それで一曲足りなくなってしまったが、エンジニアのマーティン・バーチが“パヴィヨンで最初にやったあの曲”を思い出させてくれた。イアン・ギランとロジャーが歌詞のストーリーを語り始めると、それが“Smoke on the Water”になっていった。
録音はホテルの1階の廊下で終えた。部屋を荒らしてマットレスを使って音漏れを防いだので、“a few red lights and a few old beds(いくつかの赤いライトといくつかの古いベッド)”という歌詞が生まれた。その時点ではただのアルバムの一曲に過ぎなかった。これがこれほど重要な曲になるなんて、俺たちには全く想像もできなかったが、そういうことは大衆が決めるものだ。
『Made in Japan』のライヴ・ヴァージョンでは、1年間演奏し続けていたため、探求すべき小さな部分がたくさん見つかっていたので、異なるヴァージョンになっている。観客はリフに合わせて手拍子をしてくれた。イアン(ギラン)は大阪での夜、モニターから音が聞こえにくかったため、最後にあの素晴らしいセリフを言った。“他のものよりもすべてをもっと大きくしたい!”。