Quan va néixer el CPI (M), el moviment comunista internacional estava dividit. A principis dels anys seixanta, el Partit Comunista de la Xina va començar a acusar el PCUS de revisionista per haver-se desviat de el marxisme-leninisme. Molts partits comunistes van començar a criticar el PCUS, i alguns d’aquests partits sota influència de el Partit Comunista de la Xina.
El govern de el Partit de Congrés de l’Índia era favorable a la política exterior soviètica. L’Índia va desenvolupar una relació amistosa i estratègica amb la Unió Soviètica. Alguns líders de l’CPI dirigits per Dange desitjaven una relació propera amb el Partit de Congrés. No obstant això, amplis sectors de l’CPI van reclamar que l’Índia seguia sent un país semifeudal, i que la lluita de classes no podia deixar-se en un segon pla en nom de salvaguardar els interessos el comerç amb la Unió Soviètica i la política exterior.
la guerra amb la Xina de 1962 també va influir en la divisió de la direcció d’el partit comunista. Durant la guerra, una facció dels comunistes indis va recolzar la posició de govern indi. Un altre sector va argumentar que es tractava d’un conflicte entre un Estat socialista i un capitalista. Aquesta diferència d’opinió entre les dues faccions de el partit era en essència ideològica, es tractava de l’avaluació de el paper de l’Índia i de el desenvolupament d’un programa de partit. També reflectia la diferència ideològica entre els partits comunistes soviètic i xinès. La facció “dretà” de el partit era favorable a la via soviètica i va promoure la idea d’unir forces amb el partit en el govern, el Congrés Nacional Indi, mentre que la facció de l’CPI que després passaria a escindir-se en el CPI (M) va qualificar aquesta via d’enfocament revisionista de la col·laboració entre classes. Aquesta diferència ideològica posteriorment es va intensificar, a l’una amb la ruptura sinó-soviètica a nivell internacional, i acabaria donant lloc a l’CPI (M).
Centenars de líders de l’CPI, acusats de ser proxinesos, van ser empresonats , i milers de comunistes van ser detinguts sense judici. La majoria dels detinguts provenien de l’esquerra el CPI, encara que també es trobaven alguns quadres d’altres partits.
El 1962 va morir Ajoy Ghosh, secretari general de l’CPI. Després de la seva mort, S.A. Dange passar a ser el president de el partit (un càrrec de nova creació) i E.M.S. Namboodiripad va ser nomenat secretari general. Això era una temptativa de prevenir la divisió. Dange va representar la fracció dretana de el partit i de l’E.M.S. la fracció esquerrana.
En una reunió de el Consell Nacional de l’CPI celebrada el 11 d’abril de 1964, 32 membres van sortir a protesta, acusant Dange i els seus seguidors de “polítiques antiunitarias i anticomunistes”.
la secció esquerrana, a la qual pertanyien els 32 membres de el Consell Nacional, va organitzar una convenció a Tenali, Andhra Pradesh, de el 7 a l’11 de juliol. En aquesta convenció, es van discutir els assumptes que motivaven les disputes internes de el partit. 146 delegats, que deien representar 100.000 membres de l’CPI, van participar en la reunió. La convenció va decidir convocar el VII Congrés de l’CPI a Calcuta el mateix any, entre el 31 d’octubre i el 7 de novembre. Simultàniament, el grup de Dange va convocar un congrés de l’CPI a Bombai.
Així, el CPI es va dividir en dos partits separats. El grup que es va reunir a Calcuta va adoptar el nom de ‘Partit Comunista de l’Índia (marxista)’, així com el seu propi programa polític, i va triar a P. Sundarayya secretari general de el partit. En la conferència de Calcutta el partit va adoptar una anàlisi de classe de l’caràcter de l’Estat indi que considerava que la burgesia índia estava col·laborant cada vegada més amb l’imperialisme.