1994年のデビューアルバム『Rotting Pinata』はゴールド・ディスクに認定され、「Plowed」と「Molly (16 Candles Down the Drain)」という2曲のトップ100ヒットを生み出した。1996年の2作目『Wax Ecstatic』はマイナーなヒットとなり、3枚目のトップ100シングル「Wax Ecstatic (To Sell Angelina)」も生まれた。1999年の3rdアルバム『New Pop Sunday』リリース後、マイクとティムの兄弟はバンドを脱退し、スポンジは一時解散した。クロス兄弟はどちらもその後のバンドの再結成に参加せず、その後も再加入することはなかった。