Hot Water Music se formó en octubre de 1994 con Chuck Ragan (voz, guitarra), Chris Wollard (voz, guitarra), Jason Black (bajo) y George Rebelo (batería). El nombre del grupo viene de un libro de Charles Bukowski. Hot Water Music se forma a partir de dos grupos: Fossil y Thread. Fossil, donde Chuck, Jason y George son miembros junto con el cantante llamado Brendan O' Donnal. Chuck, Jason y George dejarían este grupo en 1994 para formar Hot Water Music junto con Chris. El mismo caso sucede con Chris, que junto con Jason, George y Zack Frednaca formaban Thread. Chris, Jason y George abandonaron Thread. De estas dos rupturas nace Hot Water Music.
Imagen de Gainesville, Florida. Lugar de nacimiento de Hot Water Music y de los miembros de la banda.


La banda debutó en 1995 con un 7" llamado "Eating the Filler” y grabarían su primer EP, Push For Coin también en 1995. En ese mismo año, entre el 8 de enero y el 30 de abril, la banda grabó su primer álbum de estudio Finding The...