Yokoi foi chamado a ativo serviço pelo exército japonês em 1941. Inicialmente servido com a 29ª divisão de infantaria em Manchukuo. Em 1943, eles transferiram para o 38º regimento, proeminentes nas ilhas marianas como parte da equipe de fornecimento.
Ele chegou a Guam em fevereiro de 1943. Quando o corpo marinho dos Estados Unidos capturou a ilha durante o Segunda batalha de Guam, Yokoi entrou na selva com outros dez soldados japoneses se transformando em holdouts (fugitivo). Yokoi e seus companheiros ignoraram as chamadas de rendição, uma vez que algumas patrulhas americanas eram muitas vezes caçadas e assassinadas aqueles que o fizeram. Além disso, a queda do prisioneiro era uma desonra.
Sargento Yokoi permaneceu oculto até 1972. Sete dos militares originais finalmente foram embora. Apenas três permaneceram na região. Em 1952 ele ouviu rumores de que a guerra acabou, mas achava que era uma Artimaña para fazê-los sair e assassiná-los. Mais tarde, estes últimos três separados e visitados uns aos outros até cerca de 1964, quando Yokoi encontrou seus dois amigos mortos, por causa da fome. Os próximos oito anos viviam totalmente sozinhos.
Yokoi viveu de caça e pesca, especialmente à noite. Ele usou plantas nativas para fazer roupas, roupa de cama e utensílios de armazenamento, que cuidadosamente escondi em sua caverna localizada perto das cachoeiras Talafofo.