Se constata la presencia de una comunidad judía en la ciudad ya en el año 612, gracias a un edicto del rey que prohibía a los judíos de la ciudad emplear esclavos cristianos. Sin embargo, aunque alcanzó su apogeo en el siglo VII, la presencia de judíos en Jaén se remonta sin duda a la época romana. El geógrafo Abd al-Nūr Al-Himyari menciona en el siglo IX la presencia de un mikvé en Jaén, conocido como el «baño de Isaac». En 2002, unas excavaciones permitieron descubrir los muros de carga de este mikvé, del que se cree que perteneció a Isaac Ben Saprut, padre del famoso médico y diplomático Hasday Ben Saprut. En 1391, a raíz de los disturbios provocados por las predicaciones de Vicente Ferrer, se produjeron numerosas conversiones y el barrio judío se convirtió en un barrio de conversos que recibió el nombre de Santa Cruz, al igual que en Sevilla. En Jaén se instaló en 1483 el Tribunal de la Inquisición.
En el siglo XI, tras la desintegración del califato de Córdoba, Jaén pasó a formar parte del reino de Granada. En 1066, el gobernador de Granada, Musakhan, autorizó a Maksan, hijo del rey de Granada, a apoderarse de las riquezas de los judíos de Jaén después de que estos se rebelaran. La comunidad estaba dirigida en aquella época por el rabino Isaac, quien vio cómo la tolerancia musulmana hacia los judíos llegaba a su fin de forma brutal con la invasión del reino por parte de los almorávides. Los almorávides, originarios del norte de África, predicaban un islam ortodoxo que no tenía nada que ver con la armonía interconfesional que había reinado hasta entonces. Bajo el mando de Yusuf ibn Tasufin, los almorávides invadieron uno a uno los reinos de España y saquearon las ciudades que se encontraban en su camino.
La conquista almorávide obligó a los judíos andaluces a refugiarse en los reinos del norte de España. El barrio judío de Jaén no se recuperó hasta 1246, tras la conquista de la ciudad por el rey cristiano Fernando III. La ubicación del barrio judío de Jaén durante la Edad Media cristiana sigue siendo objeto de debate hoy en día; sin embargo, parece que los judíos se reasentaron en las mismas calles que durante la época musulmana, es decir, entre la actual calle Santa Cruz y la calle San Andrés . La sinagoga se encontraba, con toda probabilidad, en la calle Santa Clara .
Según los registros fiscales que se han conservado, se sabe que la comunidad judía de Jaén era casi tan numerosa como la de Sevilla en el siglo XIII, con unos 1500 habitantes. Hasta mediados del siglo XIII, bajo el reinado de Fernando X, la comunidad vivió un periodo de esplendor que se prolongó hasta la expulsión de 1492.
Situados en el interior del palacio Villardompardo , estos baños, que datan del siglo XI, fueron utilizados tanto por judíos como por árabes y cristianos. Su descubrimiento se remonta a 1913. Para llegar hasta allí, pase por la Calle del Gato , una calle que permite imaginar el aspecto de la judería medieval.
Un poco más allá, la puerta de Baeza era sin duda la puerta por la que los judíos entraban y salían de la judería.
En la fachada de la Catedral de Jaén (1566), así como en el retablo, se pueden observar frescos que representan a judíos, lo que demuestra la importante presencia de la comunidad en la ciudad.
En la calle Maestra se encuentra el crucifijo conocido como Cristo del Socorro. Se dice que apareció en la pared cuando un grupo de judíos intentó profanar una procesión que se dirigía hacia la catedral. Dejando a un lado la tradición popular, esta calle, que sigue siendo muy comercial en la actualidad, era la de los comerciantes judíos. Las calles vecinas, entre ellas las del Arco del Consuelo, dan una idea del ambiente medieval judío.
Aunque no hay pruebas fehacientes, numerosos elementos arquitectónicos sugieren que la capilla de San Andrés fue en su día una sinagoga.
En el número 6 de la plaza Magdalena, una estrella de David te indicará la ubicación de lo que fue la residencia de Hasday Ben Saprut .