Joy Zippers andet album, American Whip, blev co-produceret og mixet med Kevin Shields (My Bloody Valentine) og DJ/producer David Holmes (Oceans 11, Out of Site). Indspilningen blev startet i Cava Studios i Glasgow, Skotland med Tony Doogan (Belle & Sebastian, Snow Patrol, Mogwai). Mick Cooke fra Belle & Sebastian spillede Flugelhorn på en række af sangene. Joey Waronker (Beck, R.E.M.) spillede trommer på albummet, og disse blev indspillet i George Martin's AIR Studios i London af David Holmes. Albummet blev mixet i Ray Davies' Konk-studie i Hornsey og The Dairy-studiet i Brixton med Kevin Shields og Guy Fixsen (Laika). American Whip udkom første gang på Vertigo/Mercury Records i 2003 og i Amerika på Dangerbird Records i 2005.

I december 2019 listede avisen The Guardian Christmas Song som en af de 50 bedste julesange.