A banda se formou no começo da década de 80, com influências de punk e por isso mesmo foi inserida nas bandas conhecidas como pós-punk, porém seu som não tinha nenhuma relação com bandas como The Cure, Sisters of Mercy, Bauhaus, que eram bandas com apelo gótico e com visual totalmente diferentes.

O que diferenciava o Sonic Youth eram as experimentações, as microfonias e especialmente as afinações dos instrumentos, incomuns pra qualquer época !!!

O Sonic Youth começa a tocar em festivais em 1981 e no ano seguinte lança o primeiro disco, na verdade um EP, chamado  "Sonic Youth". O primeiro disco só seria lançado em 1983 com o nome de "Confusion is Sex" e na sequência lançam o EP "Kill Yr Idols" e o disco ao vivo  "Sonic Death: Sonic Youth Live". Em 1985, saiu o disco "Bad Moon Rising" e em 1986, o primeiro disco de sucesso chamado "Evol", já com a formação que se tornaria clássica com: Thurston Moore - guitarra e vocal; Kim Gordon - baixo e vocal; Lee Ranaldo - guitarra e vocal e Steve Shelley - bateria. 
No final do mesmo ano lançam a trilha sonora do filme "Made in USA".
Em 1987, outro discaço "Sister" e em 1988, o aclamado vinil duplo "Daydream Nation", tido como o melhor disco para muitos.

Em 1990, a banda lança o disco "Goo", que mostra a banda um pouco mais pop, mas sem deixar a qualidade musical cair, contendo a participação especial do rapper Chuck D (Public Enemy). Em 1992, a banda lança o mais pop e comercial disco da carreira, "Dirty", belo disco com muitas músicas vinculadas na MTV e enfim a banda alcança o estrelato mundial !!

Em 1994 sai o disco "Experimental Jet Set, Trash and No Star", que não chega a repetir o sucesso dos discos anteriores. Em 1995, lançam um disco que faz um pouco mais de sucesso  "Washing Machine".

Em 1997, a banda lança "A Thousand Leaves", que recoloca a banda nas paradas musicais. Em 1999, com a entrada do produtor Jim O'Rourke, que mais tarde seria efetivado na banda, começam a trabalhar no novo disco que seria lançado em 2000 com o nome de "NYC Ghosts and Flowers".

Em 2002 lançam "Murray Street", que muitos reconhecem como a volta da banda ao som original. Em 2004, a banda lança "Sonic Nurse" e para 2006, está previsto o lançamento do albúm "Rather Ripped" (já disponível na internet).