O Karma-Shenjing começou em 1º de Novembro de 2002, estreando na área de Kansai. Um curto tempo depois, eles realizaram sua primeira performance ao vivo no Kobe BackBeat no dia 17 do mesmo mês.
Em 2003 eles lançaram seu primeiro maxi-single, seguido por seu primeiro álbum, Rinne. Eles passaram o resto do ano se concentrando nos shows, se apresentando em novas regioes e atraindo novos fãs.
2004 viu a banda fazer alguns poucos shows no início do ano e também seu segundo maxi-single, Kousousaisai･Urara ga. Eles realizaram vários outros shows, incluindo alguns com bandas da UNDER CODE PRODUCTIONS e o guitarrista HIZAKI.
O Karma-Shenjing seguiu se apresentando ao vivo e lançou mais um maxi-single em Agosto, seu único lançamento naquele ano. Em Novembro, a banda viajou até os Estados Unidos e se apresentou no salão Santa Clara Marriott, na Califória.
Em Janeiro de 2006, eles lançaram seu segundo álbum de estúdio, um trabalho conceitual chamado Ruten Rinne. Eles também participaram de uma série de eventos organizada por KISAKI, chamados The Day Before -VOLCANO- que aconteceu no começo de Março. Depois de uma pequena pausa, eles lançaram uma versão americana especial de seu segundo álbum e um DVD ao vivo.
2007 viu a banda fazer muitos shows e participar da convenção de anime Fanime Con na Califórnia como convidados de honra. Depois de mais uma pequena pausa, a banda iniciou um ambicioso projeto em Março de 2008; começar uma campanha de lançamentos de 12 singles em 12 meses, campanha que terminou com sucesso em Janeiro deste ano com um show no Umeda HOLIDAY.
