Els seus orígens es remunten a l’emperador Go-Toba. Considerat com insígnia de l’shogunato durant el període Edo, era utilitzat habitualment com a objecte decoratiu en múltiples suports. Durant el període Meiji es va restringir l’ús de l’Segell Imperial estrictament a l’Emperador del Japó, el qual usava un crisantem de 16 pètals amb setze puntes d’una segona fila de pètals entrellaçant-se amb els de la primera. Per això, cada membre de la família imperial utilitzava la seva pròpia versió de l’segell, aplicant-li lleugeres modificacions. Els santuaris Shinto també exhibien el segell imperial o incorporaven elements de l’segell en els seus propis emblemes.
El seu ús com a símbol de país es va reforçar a partir de la Segona Guerra Mundial. Des de llavors, el símbol apareix en els passaports dels ciutadans, en les insígnies dels membres de parlament japonès, en les ambaixades o en qualsevol objecte, document o emblema que representi l’autoritat de l’Emperador. També es pot apreciar aquest emblema en l’Ordre de l’Crisantem, la distinció més alta del Japó.
Tot i que des de llavors ha tingut caràcter d’emblema nacional de facto, fins a 2005 no hi havia cap llei que especifiqués la seva utilització com a símbol oficial.