La seva família va creuar la Frontera interalemanya el 1981 i es van establir a Califòrnia. El seu pare, Naimul Karim, és un investigador bangladeshià que actualment treballa a l’empresa nord-americana 3M. La seva mare, Christine Karim, és una professora i científica alemanya, adjunta d’investigació de bioquímica a la Universitat de Minnesota.
Karim i la seva família van emigrar als Estats Units el 1992. Es va graduar a l’Institut Central de Saint Paul, Minnesota. Va continuar els seus estudis a la Universitat d’Illinois a Urbana-Champaign, per finalment abandonar el campus abans de la seva graduació per fer-se empleat de PayPal.
Treballant en PayPal, va conèixer a Chad Hurley i Steve Chen. Els tres més tard van fundar el lloc web de vídeos YouTube. Ell mateix protagonitza el primer vídeo que va pujar a YouTube el 24 d’abril de 2005. Després de la co-fundació de l’empresa, Karim va optar per la participació a jornada completa i va actuar com un conseller de YouTube. Després es va matricular com a estudiant de postgrau en Ciències de la computació a la Universitat de Stanford.