Yokoi foi chamado a servizo activo do exército xaponés en 1941. Inicialmente serviu coa 29ª División de Infantería en Manchukuo. En 1943 trasladárono ao 38º Regimiento, prominente nas Illas Marianas como parte do equipo de subministración.
chegou a Guam en febreiro de 1943. Cando o Corpo Marítimo dos Estados Unidos capturou a illa durante o Segunda Batalla de Guam, Yokoi entrou na selva con outros dez soldados xaponeses transformándose en Holdouts (fugitivo). Yokoi e os seus compañeiros ignoraron as chamadas de rendición xa que algunhas patrullas estadounidenses eran a miúdo cazadas e asasinaron aos que o fixeron. Ademais, a caída do prisioneiro era unha deshonra.
Sergeant Yokoi permaneceu escondido ata 1972. Sete dos militares orixinais finalmente foise. Só tres permaneceron na rexión. En 1952 escoitou rumores de que a guerra acabara, pero pensaban que era unha Artimaña para facelos saír e asasinalos. Máis tarde, estes últimos tres separáronse e visitaron ata en 1964, cando Yokoi atopou aos seus dous amigos mortos, por mor da inanición. Os próximos oito anos vivían totalmente só.
Yokoi viviu de caza e pesca, especialmente pola noite. Usou plantas nativas para facer roupa, roupa de cama e utensilios de almacenamento, que coidadosamente escondeuse na súa cova situada preto das fervenzas de Talafofo.