Les plus anciens vestiges de la présence juive en Allemagne se trouvent dans la région rhénane. Le fleuve constitua longtemps la frontière orientale de l’Empire romain, et les juifs de la diaspora trouvent dans les cités forteresses de ce limes, comme Colonia Agrippina