Le Parti communiste israélien a été fondé en 1923 en Palestine en tant que parti exclusivement juif ashkénaze. Le yiddish étant la langue historique et littéralement la « langue maternelle » (mame-loshn) des Juifs ashkénazes, et une langue parlée par de nombreux Juifs d'Europe de l'Est, le Parti communiste fut appelé en yiddish : Palestinishe Komunistishe Partei. Avec l'ascendant de l'« hébreu nouveau », le parti fut finalement connu en Israël sous son nom hébreu : Ha-Miflaga Ha-Komunistit Ha-Yisraelit. Pendant le mandat britannique sur la Palestine, son nom arabe était cependant le Parti communiste palestinien (al-Hizb al-Shuyu'i al-Filastini). En 1923, le PCP naquit d'une coalition de colons sionistes de gauche et de communistes non sionistes parmi les immigrants juifs d'Europe de l'Est arrivés en Palestine.

The Israeli Communist Party began as an exclusively Jewish Ashkenazi party in Palestine in 1923. With Yiddish being the historical and literally the ‘mother language’ (mame-loshn) of the Ashkenazi Jews and being a language spoken by many East European Jews, the Communist Party was called in Yiddish: Palestinishe Komunistishe Partei. With the ‘new Hebrew’ being in ascendancy, the party became eventually known in Israel by its Hebrew name: Ha-Miflaga Ha-Komunistit Ha-Yisraelit. In Mandatory Palestine, however, its Arabic name was the Palestine Communist Party (al-Hizb al-Shuyu’i al-Filastini). In 1923, the PCP was born as a coalition of left-wing Zionist settlers and non-Zionist communists among the East European Jewish immigrants to Palestine.

À sa fondation et durant ses premières années, le parti était à dominante juive ; il est resté petit mais composé en très grande majorité de Juifs d'Europe de l'Est pendant une grande partie de la période du Mandat britannique sur la Palestine (Younis 2000 : 117).

At its foundation and in its early years the party was predominantly Jewish and it remained small but overwhelmingly composed of East European Jews during much of Mandatory Palestine (Younis 2000: 117).

Dominé par les staliniens pendant une grande partie de la période du Mandat, le parti, à la fin de 1947, à la suite du soutien de l'Union soviétique à la résolution de partage de l'ONU, adopta une désignation sioniste pour le pays, « Eretz Yisrael » (au lieu de Palestine), et fut déterminant pour obtenir l'aide militaire de la Tchécoslovaquie à l'État d'Israël pendant les étapes les plus difficiles de la guerre de 1948.31 Également en 1948, le dirigeant du parti, Meir Vilner, fut signataire de la « Charte d'indépendance » sioniste israélienne (Megilat ha-ʿAtzmaut), qui décrivait à plusieurs reprises le pays comme la Terre d'Israël (en hébreu : Eretz Yisrael). Dans la période post-Nakba, le parti promut une mémoire collective qui contribua à l'israélisation des citoyens palestiniens d'Israël, les « Arabes israéliens » selon l'expression consacrée.