GilleLoves perustettiin vuonna 1991 jäseninään Lucifer Luscious (laulu) ja Gardie (kitara). Ei ole varmaa, oliko Sylvain Ashworth virallinen vai sessiojäsen; bändin seurassa hän kuitenkin esiintyi.
He toimivat Nagoyassa ja julkaisivat uransa alussa kaksi demonauhaa: Rose kingdom ilmestyi vuonna 1991 ja No yoru vuonna 1992.
Lokakuussa 1993 he julkaisivat ensimmäisen albuminsa nimeltä Bara no kyuuketsuki (= ruusunvärinen vampyyri). Levytys oli täynnä vampyyreja, verta ja romantiikkaa.
Lucifer aloitti yhtyeen ohella sooloprojektinsa vuonna 1994 ja julkaisi sen alla albumin. Gardie auttoi tässä projektissa.
Kolme vuotta ensimmäisen albumin jälkeen, lokakuussa 1996, ilmestyi bändin toinen albumi My bloody valentine. Tämän jälkeen GilleLoves päätyi lopettamaan uransa. Ystävykset eivät kuitenkaan lakanneet toimimasta yhdessä, vaan muuttivat Tokioon, missä sama kokoonpano aloitti uuden yhtyeen nimellä Fiction.