Empezaron como una banda de brutal death metal, con el nombre de Paralysis, y luego cambiaron su nombre para Phlebotomy en 1993. En 1995, cambiaron nuevamente su nombre para "On Thorns I Lay", en referencia a Shakespeare (El nombre fue sugerido por su amigo, el vocalista / bajista de Nightfall, Efthimis Karadimas) y su estilo se acercó al más al death/doom, pero, poco a poco fue evolucionando hacia el metal gótico, haciendo hincapié en temas melancolicos y alternativos, de la misma forma de la banda Theatre of Tragedy, teniendo una voz gutural masculina y una soprano femenina.

En 1994, los fundadores de la banda, Chris y Stefanos, se trasladaron a Rumania para graudarse, donde también había algunos músicos locales en su banda. La formación actual de la banda se formó en 2001, cuando los fundadores de la banda regresaron a Grecia.