La presencia judía en Palermo se remonta a la época romana. Los documentos hallados en la Genizá de El Cairo dan fe de su presencia en la Edad Media. Una parte de ellos llegó como esclavos durante el periodo de dominación musulmana. Fueron liberados económicamente por sus correligionarios. No obstante, los judíos lograron emanciparse y participar en la vida activa de la ciudad durante ese dominio, aunque estaban sujetos a impuestos especialmente elevados.
Bajo el dominio normando que siguió, a partir de 1072, este impuesto injusto se mantuvo. En cambio, se reconocieron plenamente sus derechos como ciudadanos. Trabajaban en numerosos sectores: la pesca, la artesanía, el teñido y la seda, entre otros. Desarrollaron en gran medida la industria de la seda. Según Benjamin de Tudela, en 1172 vivían 1500 judíos en Palermo.
El desarrollo de la comunidad continuó a pesar de las presiones religiosas y las acusaciones de blasfemia, así como de la persistencia de impuestos desproporcionados. En 1473, esas acusaciones de blasfemia dieron lugar al juicio y la ejecución de varios judíos. El verano siguiente, los judíos sufrieron nuevos ataques.
Cuando se oficializó la expulsión de los judíos de Palermo en 1492, la ciudad contaba con cerca de 5 000 judíos. Tras la expulsión, permanecieron en Palermo algo menos de 200 familias de conversos. En el siglo XVIII, los descendientes de algunos de esos judíos intentaron volver a establecerse allí.
Sin embargo, muy pocos judíos vivieron allí durante ese periodo ni en los dos siglos siguientes. Los soldados de las tropas aliadas que liberaron la ciudad durante la Segunda Guerra Mundial construyeron una sinagoga provisional.
Desde 2013, la fiesta de Hanukkah se celebra en el Palazzo Steri, el lugar que en su día albergó a las autoridades encargadas de la Inquisición. Muchas personas fueron encarceladas y torturadas allí.
Se ha descubierto un mikvé en un patio del Palazzo Marchesi , que fue sede de la Inquisición en el siglo XVI. También han aparecido inscripciones hebreas en el Palazzo Chiaramonte-Steri , que en aquella época servía de sede del tribunal eclesiástico y de las prisiones.
En 2018, la archidiócesis de Palermo donó un edificio a la comunidad judía de la ciudad: el Oratorio de Santa Maria del Sabato. El edificio se encuentra en el complejo del monasterio de San Nicola da Tolentino, en el corazón de Vicolo Meschita, el antiguo barrio judío de Palermo. La ciudad autorizó a la comunidad a reconstruir allí una sinagoga . La antigua sinagoga de Palermo era especialmente hermosa, según los observadores de la época, y se encontraba en las inmediaciones. El arzobispo de Palermo, Corrado Lorefice, fue galardonado con la medalla Wallenberg por haber permitido el renacimiento de la comunidad judía de Palermo gracias a esta donación, así como por su promoción del diálogo interreligioso.