Aunque llegaron algunos Sefaradim durante la colonización Española, la mayoría de los Sefaradim llegan a Chile a principios del siglo XX esencialmente de Monastir (Bítola) y Smirna. Se establecen en Temuco, Valparaíso, Santiago, La Serena y Ovalle, entre otros.
En 1924, 30 Sefaradim de Santiago se reúnen con Zacarías Geni (z.l.) y deciden fundar una comunidad sefaradí. Los estatutos de 1924 enfatizan: los lazos fraternales entre socios; sostener una Sinagoga a la usanza sefaradí; apoyar al movimiento Sionista; fundar y sostener escuelas de enseñanza hebrea; crear una biblioteca; mantener un local social; no inmiscuirse en la política nacional.
En 1925 se inaugura la Sede Social en Santa Isabel 356, en 1926 se abre el cementerio y en 1927 se obtiene la personería jurídica y se forma el primer Directorio, bajo la Presidencia de Mauricio Palombo Palombo (z.l.). En 1928 funciona un Talmud Torá, un grupo femenino, se organizan bailes, veladas, conferencias y ozer dalim (ayuda a los necesitados), y en 1929, juegos de naipes. En 1931 funciona la Jevrá Kadishá, se pone más énfasis en Culto, en Sionismo y en ozer dalim para los primeros refugiados del nazismo.
En 1933 se crea la Comunidad Israelita Sefaradí con nuevos estatutos, se incorpora la primera mujer al Directorio, Matilde Arditi Danon de Veit (z.l.), y hay un coro de niños para Yamim Noraim. A raíz de la crisis económica, se establece el “Libro Negro Ají” de los socios sin cuota y se ofrecen servicios médicos gratuitos.