Skupinu založil R. S. Howard, svého času člen Birthday Party, už v r. 1977 v rodné Austrálii. Po dvou letech se rozpadla a k obnovení dochází až v době jeho odjezdu do Anglie (v r. 1984). Tam se přidali Harvey (ex - Birthday Party) a H. Howard. V r. 1985 se připojil Soundtracks, v r. 1986 Adams (Bonneyova žena).

Stylově vycházejí ze stylu Birthday Party, s jistým konvenčnějším posunem (první nahrávky představovaly spíše chmurné blues). S. Bonney a M. Harvey odcházejí v r. 1987, zbytek skupiny zakládá These Immortal Souls. V témže roce se ale soubor obnovuje ve slož. Adams, Bonney, Harvey, Chrislo Haas, Alexandr Hacke, Thomas Stern. To už na novém působišti, v Západním Berlíně.

(Haas hrával v D.A.F., Hacke v Einstürzende Neubauten.)
V r. 1992 vychází Bonneymu 1. sólové album Forever (na zn. Intercord - Mute), po němž následuje v r. 1996 “dvojka” Everyman (rovněž na zn. Mute).