Lorsque le Grand Vizir Syavush Pasha vient à Sarajevo en 1581, les représentants locaux de la Porte lui demandent de séparer les juifs du reste de la population, car ils font trop de feux et trop de bruit. Syavush Pasha ordonne la construction d’une cité juive, des logements communautaires pour les juifs avec cour et synagogue. La Velika Avlija avait quarante-six chambres pour les juifs les plus pauvres de la ville, tandis que le reste habitait les autres mahallahs (« quartiers ») de la ville. Dès lors qu’il y avait liberté de mouvement, on ne peut considérer qu’il s’agissait d’un ghetto.
Détruite par un incendie en 1879, la Velika Avlija n’a jamais été reconstruite, sauf sa synagogue. Elle abrite aujourd’hui le petit Musée juif de Sarajevo qui présente diverses collections de costumes et objets de culte, dont certains originaires d’Espagne.
La Haggadah de Sarajevo, célèbre enluminure de XIVe siècle, raconte le passage de la mer Rouge. Elle a été apportée en Bosnie par des juifs de Catalogne. Après avoir connu moult vicissitudes, elle a regagné Sarajevo, où elle est conservée au Musée national de la République.
La synagogue moderne est construite en 1902 par des ashkénazes, en style mauresque : elle s’orne de superbes arabesques, et sert aujourd’hui de centre communautaire.
L’ancien cimetière juif de Sarajevo est situé à Kovacici, sur le mont Trebevic qui surplombe la ville. Fondé en 1630, il abrite un grand nombre de tombes dont les inscriptions en judezmo sont encore visibles. Le cimetière a malheureusement été utilisé comme position stratégique pendant la guerre civile de 1992-1995, les Serbes bosniaques y installant leur artillerie pour bombarder la ville en contrebas, s’attirant du même coup les tirs de canon des assiégés. Les Serbes bosniaques ont également miné le site avant de s’en retirer. Une organisation non gouvernementale norvégienne s’est, depuis lors, employée à déminer la zone.
Non loin du cimetière de Sarajevo, à Vrace, un monument honore la mémoire des 9000 habitants de la ville massacrés pendant la Seconde Guerre mondiale, dont plus de 7000 juifs. Leur nom et leur âge sont parfois inscrits sur les parois intérieures de l’ancienne forteresse restaurée pour servir de mémorial.