The Baboon Show wurden 2003 von Cecilia Boström (Gesang), Helen Lindberg – ab 02/2004 (Bass), Niclas Svensson (Schlagzeug) und Håkan Sörle (Gitarre) gegründet. Der Name ist angelehnt an die schwedische Regierung, die sich in den Augen der Band wie eine Horde wilder Paviane aufführt. Im Mai 2004 erschien eine selbstproduzierte EP namens This is It!. Schnell erwarben sie sich den Ruf, einer der besten Live-Acts in Schweden zu sein.