La sinagoga moderna es un edificio de baja altura, similar a la gran mayoría de las sinagogas anteriores al Holocausto. Según los documentos encontrados, la presencia judía en la ciudad de Tallin parece remontarse, como mínimo, al siglo XIV.
Desde 1561 hasta 1710, cuando la ciudad fue tomada por el ejército sueco, se prohibió el asentamiento de judíos en la zona. Tras el dominio sueco, Tallin fue conquistada por Rusia. Sin embargo, las autoridades gobernantes no facilitaron en absoluto el reasentamiento de los judíos en la ciudad.
Los fundadores de la comunidad procedían principalmente de las filas del ejército ruso destinado en la ciudad. En 1883 se fundó en Tallin una sinagoga situada en el centro de la ciudad, un lugar acogedor que propició la llegada de otros judíos a la ciudad y la creación de un centro cultural, una mikve y carnicerías. Así, en 1897, la población judía ascendía a casi 1 200 personas.
En 1922, había cerca de 2000 judíos y una vida cultural muy activa, sobre todo en el ámbito escolar. La anexión por parte de la URSS en 1940 puso fin a la organización de la comunidad local. Los soviéticos aplicaron medidas brutales.
Tras la ocupación alemana, el Holocausto se cobró un gran número de víctimas en la ciudad y la sinagoga quedó destruida por los bombardeos. Muy pocos sobrevivieron; se calcula que unas 10 000 personas fueron asesinadas.
La presencia judía se mantuvo bastante estable entre el final de la guerra y la década de 1970, rondando las 3.700 personas. Tras la perestroika y la independencia del país, muchos judíos emigraron, principalmente a Israel.
Tras la Perestroika y la independencia de Estonia, se fundó en la ciudad una Sociedad Cultural Judía en 1988. Al año siguiente se inauguró una escuela judía. No había sinagoga, pero se disponía de locales cedidos para celebrar temporalmente oraciones y celebraciones.
A principios del siglo XXI se inauguró una nueva sinagoga en Tallin. En 2012, la población judía se estimaba en 1.700 personas, muy lejos de las 5.500 de 1959. La inauguración fue un hito, ya que se trataba de la primera sinagoga construida después de la guerra y contó con la presencia del primer ministro. El edificio también alberga un restaurante kosher, una mikve y un museo .
En 2025, la ciudad de Tallin apoyó la creación de una escuela judía, lo que supuso uno de los símbolos del renacimiento del judaísmo estonio. En el centro comunitario se organizan numerosas actividades culturales, dirigidas especialmente a los jóvenes, con el fin de ayudarles a reconectar con este patrimonio.
En Tallin existe un antiguo cementerio judío desde 1856 en la calle Magaziin. En 1909 se inauguró un nuevo cementerio en la calle Rahumae. Con motivo de su centenario, fue renovado y alberga un monumento en homenaje a las víctimas del Holocausto.