Logo após o anúncio de hiatus de THE YELLOW MONKEY, Yoshii Lovinson lentamente começou sua carreira solo. Yoshii Kazuya já havia começado a produzir músicas para um álbum em 2001, trabalhando junto com diversos músicos americanos, mas foi apenas em 2003 que o músico fez seu debut solo com o single TALI.
Começando forte em 2004, Yoshii lançou seu segundo single e um mês mais tarde seu primeiro álbum solo, at the BLACK HOLE. No final daquele ano, Hideaki 'Emma' Kikuchi, o antigo guitarrista de THE YELLOW MONKEY, juntou-se a Yoshii como seu guitarrista suporte.
Assim como o ano anterior, 2005 começou com diversos lançamentos no começo do ano, como mais um single e o segundo álbum, WHITE ROOM. Em junho de 2005, o músico realizou a turnê AT the WHITE ROOM em comemoração ao lançamento do seu segundo álbum por todo o Japão. Dessa turnê veio o primeiro DVD, STILL ALIVE YOSHII LOVINSON TOUR 2005 AT the WHITE ROOM. Mais tarde, em 7 de Outubro, após se apresentar no Dream Power John Lennon Super Live 2005, o artista mudou seu nome de Yoshii Lovinson para o seu nome real Yoshii Kazuya.
Durante os meses que se seguiram, Yoshii começou o processo de gravação de novas músicas e realizou uma nova turnê, dessa vez usando seu nome real. Durante todo o ano de 2006 o artista continou gravando para então lançar dois singles, WEEKENDER e BELIEVE, que foram vendidos apenas online e em cópias limitadas. Em maio de 2006, o cantor também contribuiu para um álbum em tributo a banda Nirvana, entitulado ALL APOLOGIES.
Em 2007, o músico lançou o single WINNER, que foi usado como tema para o filme GOAL!2. Em seguida, ele inciou uma campanha de lançamentos de três meses, começando com o single Shine and Eternity em Julho e terminando com o álbum Hummingbird in Forest of Space em Setembro. Ainda em Setembro Yoshii deu início a sua nova turnê nacional Yoshii Kazuya GENIUS INDIAN TOUR 2007.
O início de 2008 também foi muito proveitoso para o cantor. Após o single Bacca, Yoshii lançou o álbum ao vivo Dragon head Miracle e dois DVDs, um deles em um box-set com três shows gravados entre 2007 e 2008. E para fechar o ano em grande estilo, ele planeja o seu tradicional concerto no Budokan no dia 28 de Dezembro.
Para 2009, o cantor já anunciou o lançamento de seu décimo single, Birmania em Janeiro, como também seu quinto álbum de estúdio, agendado para sair dois meses depois.
