El grupo se organizó en Londres en 1976 con Mike Barson (Monsieur Barso) en instrumentos de teclado y coros, Chris Foreman (Chrissy Boy) en la guitarra y ‘Lee Thompson (Kix) en saxofón y coros, con el nombre de The North London Invaders.
En 1978 se les unieron Graham McPherson (Suggs) en voz, Mark Bedford (Bedders) en el bajo y Daniel Woodgate’ (Woody) en la batería. Tras actuar algún tiempo como The North London Invaders y Morris and the Minors, el grupo cambió su nombre por el de Madness. Carl Smyth (Chas Smash) se unió a principios de los 80 en trompeta y coros, después de haber sido un miembro no oficial durante algún tiempo.
Desde 1979 la banda ha sacado 29 sencillos y ocho álbumes de estudio, además de varios recopilatorios, dos de los cuales alcanzaron el número 1 en el Reino Unido. Durante los años 80, Madness fue uno de los grupos más populares en Gran Bretaña. En 1984 la banda creó su propio sello discográfico, Zarjazz Records. En 1985 el álbum Mad Not Mad fue el primero de Madness editado por este sello. El álbum se grabó en los estudios Liquidator, estudios propios de la banda que fueron también usados para grabar las maquetas para el álbum de 1999 Wonderful.