Ioánina conserva aún una fuerte huella de la prolongada presencia otomana en Grecia. Situada en el corazón de la montañosa Epiro (Ioánina se encuentra a 450 km de Atenas, muy cerca de Albania; una carretera en mal estado une ambas ciudades), la ciudad sigue albergando una pequeña comunidad judía, probablemente una de las más antiguas de Europa.

Los judíos romaniotas helenizados llevan 2300 años presentes en Grecia, siendo Ioánina en aquella época uno de los principales centros de esta población. A ellos se unió un numeroso contingente de sefardíes en la época de la Inquisición. Cerrada en sus tradiciones y poco abierta a los demás, según un viajero turco del siglo XVII, la comunidad judía mantenía relaciones mediocres con la mayoría ortodoxa griega, lo que los turcos no dudaron en aprovechar. A finales del siglo XVIII, Ioánina cayó bajo el yugo de un tirano, Ali de Tebelen, pachá albanés de la Sublime Puerta que, en sus cuarenta años de reinado, se forjó su propio feudo, con fronteras que se extendían hasta Albania y Macedonia. Un antiguo oficial napoleónico, el judío de Estrasburgo Samson Cerf Berr, acabó en la corte de Ali el Rebelde; se había convertido al islam y era sobrino de Cerf Berr de Medelsheim, proveedor de los ejércitos de Luis XV y encargado general de los judíos alsacianos.
A finales del siglo XIX estallaron varios disturbios antijudíos, coincidiendo con la Pascua ortodoxa, con el pretexto de acusaciones de crímenes rituales. Cientos de judíos abandonaron entonces la ciudad; algunos emigraron a Jerusalén o a Nueva York. A principios de siglo, fundaron, en Mahané Yehuda (Jerusalén) y en el Lower East Side (Nueva York), sinagogas de la «santa comunidad de Ioánina», que aún existen.
En vísperas de la Segunda Guerra Mundial, había algo menos de 2000 judíos en Ioánina. En marzo de 1944, fueron detenidos por los nazis. Solo un centenar sobrevivió. En 1994 se inauguró un monumento en memoria de las víctimas del Holocausto.
La comunidad cuenta ya con unas cincuenta personas, y muchas de ellas viven en un edificio construido en el lugar que ocupaban la antigua sinagoga, la «nueva», a las afueras del Kastro, y la escuela de la Alianza Israelita. Algunos judíos albaneses, evacuados por la Agencia Judía en 1991, antes de la caída del régimen comunista, pasaron por Ioánina. Como señal de esperanza de renacimiento para la comunidad judía, Moses Elisaf, judío nacido en la ciudad, fue elegido alcalde de Ioánina en 2019.

La sinagoga Kahal Kadosh Yashan , la única que da testimonio de la importancia que tuvo en el pasado la comunidad judía de Ioánina. Su estructura original data de la época bizantina, pero ha sido restaurada en numerosas ocasiones. La sinagoga Kahal Kadosh Hadash («hadash» significa «nuevo» en hebreo, para distinguirla de la llamada «yashan», que significa «antiguo»), construida en el siglo XVI, fue destruida durante el Holocausto. Estaba situada en la calle Joseph Eliyia.
En el patio de la Kahal Kadosh Yashan, a la derecha se encuentra una fuente de ablución, reservada a los cohanim, así como un pozo para la ceremonia del Tashlikh, mientras que, a la izquierda, una estructura de sucá, para la fiesta de las Cabañas, se apoya contra la pared de la sinagoga. La puerta principal estaba reservada a los hombres; una entrada lateral permitía a las mujeres acceder a una galería superior. La arquitectura interior, con sus arcos que enmarcan una cúpula central, muestra la influencia otomana. La sinagoga, transformada momentáneamente en biblioteca, se salvó durante la guerra gracias a la intervención del alcalde de la ciudad.
En el Museo de la Ciudadela , la antigua mezquita de Aslan Pasha, se exponen algunas reliquias: un tinte sinagogal, un vestido judío y un contrato matrimonial caligrafiado e ilustrado, una ketubá.
Fuera de la ciudadela, una parte de la comunidad judía también se había asentado en el barrio vecino de Léonide, que bordea el lago. Todavía se pueden ver estrellas de David en las fachadas de las casas o en las rejas de hierro forjado.
El cementerio judío se encuentra al oeste de la ciudad, en el barrio de Agia Triada.