O Partido Comunista Israelense começou como um partido exclusivamente judeu asquenazi na Palestina, em 1923. Como o iídiche era, historicamente e literalmente, a "língua materna" (mame-loshn) dos judeus asquenazitas e uma língua falada por muitos judeus da Europa Oriental, o Partido Comunista passou a ser chamado, em iídiche, de Palestinishe Komunistishe Partei. Com a ascensão do "novo hebraico", o partido acabou sendo conhecido em Israel por seu nome em hebraico: Ha-Miflaga Ha-Komunistit Ha-Yisraelit. No Mandato Britânico da Palestina, porém, seu nome em árabe era Partido Comunista Palestino (al-Hizb al-Shuyu'i al-Filastini). Em 1923, o PCP nasceu como uma coalizão de colonos sionistas de esquerda e comunistas não sionistas entre os imigrantes judeus da Europa Oriental na Palestina.