La comunidad judía existía ya desde la época visigoda y se desarrolló considerablemente durante la ocupación musulmana. Cuando llegaron las primeras tropas cristianas en 1266, al mando de Alfonso X de Castilla, había numerosas sinagogas, pero la mayoría de los judíos prefirieron abandonar la ciudad para refugiarse en Granada, que aún estaba en manos de los musulmanes.

Unos años más tarde, Alfonso X el Sabio, con el fin de repoblar la ciudad, invitó a los judíos de Castilla a instalarse allí. Llegaron 90 familias con apellidos típicos de la Vieja Castilla, como «castellano», «carrión» y «castro». Además de las casas abandonadas por los árabes, el rey les concedió un almacén de harina, dos sinagogas y un hospital-albergue para acoger y atender a los refugiados judíos y, sobre todo, la protección real.
El corazón de la Judería era la actual calle de la Judería , antigua calle de la sinagoga. La primera sinagoga se encontraba en la calle del mismo nombre, y la segunda, en la actual plaza de Santo Ángel, aunque fue destruida en 1479.

Este barrio judío estaba situado entre la Puerta de Sevilla y la Puerta Real, en las actuales calles de Tornería, Judería, Eguilaz, San Cristóbal, Alvar López, Cuatro Juanes, Plaza del Banco y Plaza del Progreso. Aunque los judíos debían vivir en este barrio, trabajaban y comerciaban por toda la ciudad y, por supuesto, en los alrededores del mercado. Sin embargo, tenían la obligación de volver a dormir a la judería, que cerraba sus puertas por la noche.
En 1391, tras el estallido de violencia, las predicaciones de los dominicos del convento de Santo Domingo de la ciudad dieron sus frutos y la mayor parte de la población judía (entre 3 000 y 9 000 personas) se convirtió. La Inquisición intentó la expulsión en 1483, pero sin éxito. En 1492, los judíos abandonan la ciudad para refugiarse en Portugal.